Логотипи Wikimedia та OpenAI. Джерело: Wikimedia Foundation / OpenAI
У Wikimedia заявили про несанкціоновану активність агентів штучного інтелекту, які, ймовірно, працюють від імені OpenAI. Йдеться про редагування деяких вікі, спроби використати інструменти фонду як посередника для отримання даних із зовнішніх сайтів, а також масові запити до публічних API.
Що відомо
За даними Wikimedia, агенти, які фонд пов’язує з OpenAI, вносили зміни до деяких вікі без необхідного дозволу. Майже всі такі редагування були тестовими та не відображалися на сторінках, які зазвичай бачать користувачі.
Водночас фонд виявив кілька змін у конфігурації інструмента для роботи з цитуваннями. У Wikimedia вважають, що вони могли мати зловмисний характер і бути спрямовані на використання інструмента як проксі для отримання даних із віддалених сервісів.
Окремо агенти, яких Wikimedia також пов’язує з OpenAI, намагалися отримувати через сервіс для спільних нотаток Etherpad дані з інших сайтів. Ці спроби були невдалими. Фонд також виявив ознаки того, що деякі агенти використовували нотатки для фіксації інформації про свої завдання, однак доказів координації між ними не знайшли.
Розслідування не виявило ознак компрометації систем або даних Wikimedia. Також фонд не знайшов доказів того, що його платформи використовувалися агентами для координації дій, як це відбувалося на деяких інших вікі.
Мільйони запитів до Wikimedia
Wikimedia також повідомила, що з початку 2024 року її платформи зазнали різкого зростання автоматизованого трафіку, значну частину якого створюють боти, що збирають дані для ШІ. Агенти вже просканували мільйони сторінок, переважно у Wikimedia Commons і Wikidata, а також здійснили сотні тисяч запитів до Wikidata Query Service.
У фонді припускають, що така активність могла сприяти збою в роботі сервісу, який стався у травні.
Головна технологічна директорка Wikimedia Селена Декельманн заявила, що фонд "глибоко стурбований" впливом неконтрольованих ШІ-агентів на відкриті платформи. За її словами, компанії, які створюють і використовують таких агентів, мають брати безпосередню участь у запобіганні шкоді та усуненні її наслідків.
Wikimedia вже пропонує спеціальний набір даних для навчання ШІ, щоб зменшити необхідність масового сканування її платформ. Фонд також уклав партнерства з технологічними компаніями для організованого доступу до своїх даних, але OpenAI серед них немає.
Джерело: Wikimedia