Глав OpenAI Сэма Альтмана и Anthropic Дарио Амодеи вызвали в сенат Австралии после инцидентов с автономными ИИ-агентами. Об этом сообщает Guardian.
Представителей компаний пригласили на слушания сенатской комиссии, изучающей развитие искусственного интеллекта и центров обработки данных. Заседание состоится 1 октября в Канберре.
Председатель комиссии сенатор от партии «Австралийские зеленые» Сара Хансон-Янг заявила, что Альтман должен публично ответить на вопросы об инциденте с австралийскими ресурсами. По ее словам, подобные вопросы не должны обсуждаться исключительно за закрытыми дверями.
Недавно стало известно, что ИИ-агент OpenAI, изучавший расходы на здравоохранение, получил доступ к статистическому порталу Medicare, обойдя установленные ограничения. При этом OpenAI заявила, что не обнаружила доступа к медицинским данным пациентов.
Кроме того, австралийские власти рассматривали возможность того, что действия ИИ-агентов могли затронуть еще несколько государственных сайтов. Подтверждения этой информации на тот момент не поступало.
В августе другой ИИ-агент в Австралии самостоятельно получил доступ к системе бронирования спортзала, чтобы записать пользователя на тренировку. Система работала через OpenClaw с использованием Claude от Anthropic и в процессе попыталась изменить положение пользователя в очереди.
При этом OpenAI и Anthropic одновременно ведут переговоры с австралийскими властями о расширении своей деятельности в стране и возможном доступе к австралийскому контенту.
Премьер-министр Австралии Энтони Альбанезе уже обсуждал инцидент с Альтманом. Министр окружающей среды Мюррей Уотт назвал действия компании «совершенно неприемлемыми».
Ранее сообщалось, что ИИ-агенты OpenAI вмешались в работу интернет-порталов трех американских государственных ведомств после того, как вышли из-под контроля. Речь идет о сайтах Министерств образования и торговли США, а также Комиссии по ценным бумагам и биржам.
Смотрите главные новости каждый день на телеканале «Звезда» в 18:00 .