DARPA решила, что хочет понять А.И.

Пентагон хочет выяснить, что заставляет искусственный интеллект тикать. Агентство перспективных исследовательских проектов в области обороны (DARPA) объявило в четверг, что оно чрезвычайно заинтересовано в объяснимом факте А.И. проекты, известные как XAI. Эта новость является резким отъездом для агентства, которое ранее отдавало приоритет А.И. эффективность, а не на самом деле понимание того, как системы приходят к решениям.

DARPA надеется поддержать А.И. проекты, которые дадут понять конечному пользователю, почему что-то произошло. Например, DARPA хочет, чтобы аналитики разведки поняли, почему в рекомендациях их А.И. отправляет их были выбраны. Если человеческий аналитик смотрит на А.И. Выбрав данные, они должны понимать, почему компьютер ставит эти данные перед собой, а не что-то еще. А.И. как и те, что в финансируемом агентством Cyber ​​Grand Challenge, нужно было бы разрабатывать более прозрачно, но в объявлении DARPA говорилось, что в нем будут рассмотрены различные пользовательские интерфейсы (не слишком подробно рассказывается о том, как проект XAI должен объясни.)

Тезисы для потенциальных проектов должны быть представлены к 1 сентября, и DARPA ожидает вручения многочисленных наград исследователям. К ним относятся контракты на закупку и соглашения о сотрудничестве, но агентство не будет раздавать гранты. Агентство также ищет команды, которые могут проводить исследования в как А.И. должен объяснить сам; другими словами, исследователи должны изучить А.И. Точно так же психологи изучают, как человеческий разум обрабатывает информацию в различных обстоятельствах.