Сооснователь и бывший CEO Google DeepMind, «главный исследователь» Google и нобелевский лауреат Демис Хассабис обсуждал с администрацией США и лидерами отрасли идею создания независимого надзорного органа в области искусственного интеллекта, ориентированного на безопасность.
Хассабис продвигал идею организации типа международного агентства по ядерной безопасности МАГАТЭ, но специализированного на вопросах безопасности и разработки сверхразумного ИИ.
Идея обсуждалась на разных уровнях правительства США и среди близких советников по технологиям.
Пока это самое оформленное предложение по контролю за передовыми разработками в области ИИ.
Хассабис утверждал, что ИИ‑революция станет в десять раз важнее индустриальной эпохи и будет происходить в десять раз быстрее, а AGI — задача ближайших лет.
Он предлагал применить опыт FINRA — организации, регулирующей работу брокеров и дилеров — для надзора за ИИ, а модели предлагал оценивать по жестким критериям кибербезопасности и рисков, включая испытания на обход ограничений.
ИИ‑модели предлагалось проверять на способность обходить ограничения и на попытки обмана, независимо от страны происхождения.
Почему это важно?
Перестройка руководства Google после ухода Хассабиса вызвала вопросы о стратегическом курсе DeepMind.
Существуют версии сценариев: часть экспертов считает, что Google может уйти от передовых ИИ‑моделей в пользу финансирования прибыльной облачной инфраструктуры.
