Логотип Anthropic. Джерело: Anthropic
Компанія Anthropic оголосила про запуск ініціативи Project Glasswing, спрямованої на протидію кібератакам із використанням штучного інтелекту. Проєкт передбачає співпрацю з низкою технологічних і фінансових гігантів, серед яких Amazon, Apple, Google, Microsoft, NVIDIA та інші.
Що відомо
У межах ініціативи партнери отримають доступ до моделі Claude Mythos Preview — ще не представленої публічно універсальної системи штучного інтелекту. За даними Anthropic, ця модель уже виявила тисячі потенційних вразливостей, зокрема в популярних операційних системах і браузерах. Її планують застосовувати для зміцнення кіберзахисту та запобігання зловмисному використанню ШІ.
Project Glasswing має на меті захист критично важливого програмного забезпечення від нових типів атак, які можуть виникати через розвиток штучного інтелекту. У компанії наголошують, що проєкт орієнтований саме на оборонне застосування технологій.
Anthropic, яку очолює Даріо Амодей, раніше неодноразово піднімала питання безпеки та етики у сфері ШІ. Водночас компанія вже стикалася з критикою: зокрема, повідомлялося про використання її моделі Claude під час хакерських атак на державні установи в Мексиці.
Запуск Project Glasswing відбувається на тлі зростання занепокоєння щодо кіберризиків, пов’язаних із розвитком штучного інтелекту, та спроб великих компаній посилити захист своїх систем.
Джерело: Anthropic