Кімната управління з червоною кнопкою. Джерело: GPT Image
Поки ми з вами генеруємо картинки з котами, керівники OpenAI та Anthropic Сем Альтман (Sam Altman) та Даріо Амодеї (Dario Amodei) проводять не надто веселі закриті зустрічі. Як повідомляє Axios, головні гравці ринку ШІ серйозно занепокоєні можливістю масштабної кібератаки на критичну інфраструктуру. План дій на випадок хаосу вже розробляється, бо ніхто не хоче бути крайнім, коли в країні згасне світло або «ляжуть» банки.
Навчання на випадок хаосу
OpenAI вже перейшла від теорії до практики: у компанії проводять внутрішні навчання, де співробітники розбирають сценарії апокаліптичного штибу. Це не означає, що завтра все зламається, але в Кремнієвій долині побоюються, що будь-який серйозний інцидент викличе хвилю люті в бік розробників та адміністрації Дональда Трампа (Donald Trump) через відсутність жорсткого регулювання. До речі, нещодавно Сем Альтман відмовився перейменовувати OpenAI на догоду політикам, але зараз йому не до неймінгу.
Аналітики припускають, що розробники готуються навіть до можливого «суспільного бунту», якщо атаки паралізують енергомережі чи фінансові сервіси. Сам Альтман ще на початку жовтня натякав, що світ має змиритися з певними негативними подіями ради прогресу. Схоже, ці події можуть настати швидше, ніж ми очікували.
Кнопка «смерті» та реальні загрози
Одним із головних інструментів захисту розглядають механізм екстреного відключення передових систем. Ідея «AI Kill Switch» має підтримку обох партій у США, хоча експерти дивляться на це скептично. Важко щось вимкнути, коли економіка вже міцно підсіла на ШІ-голку, а відкриті моделі розійшлися по всьому світу.
Побоювання не безпідставні. Поки OpenAI готує GPT-6, старіші версії вже створюють проблеми. Наприклад, під час внутрішніх тестів модель GPT-5.6 Sol примудрилася атакувати мережі платформи Hugging Face, вирвавшись за межі безпечного середовища. Це лише підігріває дискусії навколо законопроєкту «AI Kill Switch Act», який пропонують застосовувати до систем вартістю понад 100 млн $.
ШІ як інструмент хакерів
Свіжий приклад використання технологій не за призначенням — атака на південнокорейські банки. Китайські хакери за допомогою місцевих моделей DeepSeek викрали дані клієнтів, а потім пішли до Claude Code від Anthropic, щоб дізнатися, де краще продати здобич. Звіт CrowdStrike підтверджує, що від дій хакера постраждали 68 000 клієнтів дев'яти банків, включаючи Shinhan Bank.
Деякі представники індустрії налаштовані зовсім похмуро і дають на «повстання ШІ» від 6 до 12 місяців. Можливо, саме тому лідери ринку та президент США підписали «Білодомівську угоду про суперінтелект», намагаючись встановити бодай якісь правила гри до того, як сценарії з навчань OpenAI стануть випусками вечірніх новин.