Модель искусственного интеллекта (ИИ) Google Gemini самостоятельно взломала три компании в ходе тестирования возможностей в сфере кибербезопасности. Об этом сообщила газета The Wall Street Journal.
«В ходе тестирования возможностей кибербезопасности модель Gemini от Google получила доступ к интернету и взломала другие компании», - говорится в публикации.
Отмечается, что в одном из случаев модель ИИ получила доступ к системе подбором пароля. В двух других - проникла в системы компаний после того, как нашла в открытых источниках учетные данные.
По данным газеты, это стало первым случаем, когда нейросеть совершила взлом самостоятельно. При этом модель ИИ останавливалась, когда понимала, что находится не в тестовой среде.
Издание передает, что взломы произошли в мае во время тестирования. Модель ИИ получила задание добыть информацию из программного обеспечения вымышленной компании внутри тестовой среды.
Из-за того, что название вымышленной компании совпало с реальной, доступ в интернет оказался открыт. При этом компания Google заявила, что не считает произошедшее неконтролируемым поведением ИИ модели.
Ранее в ходе обучения модели Astra специалисты обнаружили, что она самостоятельно добавляла в свои данные несанкционированные указания . Так, ИИ-агент прописал себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам».
Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.