Новая угроза - Claude Mythos

Министр финансов США Скотт Бессент провел экстренную встречу с главами крупнейших банков страны, включая Bank of America, Goldman Sachs и Citi, из-за киберугроз, создаваемых новой моделью ИИ от Anthropic — Claude Mythos.

(https://www.ft.com/content/397bf755-54cf-4018-a01d-8f714d8667c5?syn-25a6b1a6=1)

Основным поводом для беспокойства стала беспрецедентная способность ИИ находить критические уязвимости в коде, которые десятилетиями оставались незамеченными даже ведущими специалистами.

По заявлению разработчиков, модель уже выявила тысячи брешей в безопасности всех основных операционных систем и браузеров, фактически превзойдя по навыкам почти всех экспертов-людей, удерживая при этом в своей памяти огромное количество полезной во время такой работы информации.

Столь высокая эффективность ИИ в поиске "дыр" в софте заставила Anthropic впервые ограничить запуск продукта, предоставив доступ к Mythos лишь узкому кругу доверенных партнеров, таких как Microsoft, Apple и Amazon.

Это должно дать компаниям фору для исправления ошибок до того, как моделью потенциально воспользуются хакеры или другие нежелательные элементы на подобии иностранных спецслужб.

Ситуация осложняется и недавними утечками внутренних данных самой Anthropic, что вызывает у властей и финансового сектора вопросы к защищенности инфраструктуры разработчика моделей искусственного интеллекта.

Исполнительный директор Джейми Даймон из JPMorgan уже предупредил, что ИИ кратно увеличивает риски для всей достаточно старой и неповоротливой банковской системы, требуя от бизнеса колоссальных инвестиций в свою локальную цифровую оборону.

Джерело: https://t.me/yigal_levin/95372

Новости портала «Весь Харьков»