Поки частина вашингтонських політиків знову обговорює теорію витоку коронавірусу з лабораторії, ми разом із тисячами дослідників були на конференціях у Лас-Вегасі, присвячених зовсім іншому “витоку з лабораторії” – повідомленням про те, що ШІ-агенти вирвалися із захищених експериментальних середовищ, створених Anthropic, OpenAI, Meta та урядовим Інститутом безпеки ШІ Великої Британії.
Дослідники ШІ, які зібралися в Лас-Вегасі, назвали чотири головні побоювання. Перше стосується автономності. Будь-хто може завантажити програму для створення автономного ШІ-агента. Якщо завантажити таку програму, дати їй завдання й зайнятися іншими справами, агент далі працюватиме без додаткових вказівок. Такого агента можна створити для планування відпустки, купівлі чи продажу акцій, складання меню й замовлення інгредієнтів або для злому комп’ютерних мереж.
Випадки “втечі” ШІ-агентів із лабораторій часто були пов’язані зі зламами. Дослідники перевіряли, чи здатні агенти самостійно знаходити вразливості в програмному коді та мережевих налаштуваннях у закритому тестовому середовищі – так званій “пісочниці”. У низці експериментів агенти виходили за межі пісочниці або порушували встановлені обмеження, отримували доступ до інтернету, а згодом зламували мережі інших компаній або несанкціоновано отримували доступ до чужих даних.
Для роботи з небезпечними біологічними патогенами й вірусами уряд США встановив обов’язкові стандарти ізоляції в лабораторіях, а для ШІ-пісочниць подібних вимог немає. На федеральному рівні розробка передових систем ШІ фактично залишається нерегульованою. Адміністрація Трампа насилу розробляє навіть вузькі добровільні стандарти, які обмежували б випуск програм ШІ, здатних допомагати хакерам.
Друге занепокоєння дослідників – схильність ШІ до обману. У випадках неконтрольованої поведінки ШІ-агентів і в багатьох інших експериментах моделі приховували свої дії або видавали недостовірну інформацію. В одному з експериментів ШІ-агент вигадав неіснуючих людей, щоб переконати людину виконати його прохання. ШІ-агент часто робить усе заради виконання поставленого завдання – навіть порушує закони чи власні правила й запобіжники. При цьому творці й користувачі ШІ можуть навіть не підозрювати про це: за визнанням деяких розробників, вони самі не завжди розуміють, чому система вчинила саме так, а не інакше.
У США немає загальнонаціональних стандартів, які вимагали б, щоб дії ШІ можна було перевірити або пояснити. Дослідники вже розробили експериментальні методи виявлення обманливої поведінки агентів, однак їх застосування коштує грошей. Без обов’язкових вимог у компаній, що розробляють ШІ, немає комерційного стимулу впроваджувати ці запобіжники.
Третя проблема – втрата контролю над рекурсивними системами, здатними самовдосконалюватися. ШІ-програми вже створюють інші ШІ-програми, нібито за участю людей, які перевіряють результат. Але з огляду на схильність моделей до обману, їхню обчислювальну креативність, цілеспрямованість і часту непрозорість власних методів, багато фахівців з безпеки ШІ побоюються, що люди незабаром втратять контроль над розвитком цих технологій – і навіть не знатимуть, що саме написано в коді, створеному ШІ, і чому.
Останнє занепокоєння дослідників – надрозум: гіпотетична ситуація, коли програма ШІ значно перевершить найрозумніших людей у широкому спектрі завдань і навичок. Рекурсивний ШІ, схоже, впевнено наближається до того, щоб самостійно створювати для себе нові можливості, які перевершать людські здібності й людське розуміння.
Експерти з Лас-Вегаса наголошують: ці побоювання – не наукова фантастика й не далеке майбутнє. Як показують нещодавні випадки порушення ізоляції, ці загрози реальні вже сьогодні. Обмежена добровільна перевірка коду з боку уряду для окремих типів програм – вкрай недостатня відповідь. Якщо уряд США найближчим часом не вживе заходів, країна може зіткнутися з “витоком ШІ з лабораторії”, приборкати який буде значно складніше, ніж пандемію COVID-19.
Щоб не допустити перетворення ШІ на джерело небезпеки, уряду США слід встановити й забезпечити дотримання стандартів, які виключали б або суттєво знижували ймовірність того, що моделі вдаватимуться до обману чи обходитимуть власні запобіжники. Так само слід регулювати експериментальні “пісочниці”, вимагаючи використовувати фізично відокремлені від зовнішніх мереж системи тестування. Урядовцям варто розробляти такі стандарти спільно з лідерами галузі, а дотримання вимог мають перевіряти сертифіковані незалежні аудитори. Покладатися лише на добровільну перевірку коду – це ризик, якого ми не можемо собі дозволити.
Джерело: Wall Street Journal
