На початку цього місяця американські дослідники вперше використали ШІ, щоб спроєктувати нові віруси. Хоча ці віруси створили лише для боротьби з бактеріями на кшталт кишкової палички (E. coli), цей прорив посилив заклики до міжнародних угод, які регулювали б використання ШІ для розроблення біологічної зброї.
Однак один із недоліків нинішнього однополярного моменту полягає в тому, що США відвикли укладати формальні угоди зі своїми противниками. Утім, нині в будь-якому разі бракує зацікавленості у формальних угодах.
Що насправді потрібно, аби досягти домовленості щодо ШІ?
По-перше, має існувати спільне сприйняття ризику й загрози. Карибська криза дала поштовх цілому поколінню угод щодо ядерної зброї, звичайних воєнних дій і зброї масового знищення. Лідери і в росії, і у Сполучених Штатах пам’ятали досвід Другої світової війни та боялися повернення глобальної війни, підсиленої ядерною зброєю. Це спільне розуміння створило основу для переговорів і, зрештою, для угод.
По-друге, усі сторони мають погодитися, що на цей ризик необхідно реагувати. Китай і росія, схоже, не готові вести зі США серйозну розмову про потенційні ризики ШІ. Позиція росії залишається неясною, а Китай, хоча й висловлював занепокоєння ризиком перетворення ШІ на зброю, схоже, вважає, що може керувати цим ризиком, не зупиняючи розвиток технології. Односторонній експортний контроль не є заміною домовленостям, а технічні запобіжники все одно потребують політичної згоди всіх сторін. Законодавство може допомогти лише тоді, коли воно надає ваги американським пропозиціям.
По-третє, необхідно усвідомлювати межі участі. Відверто кажучи, що більше учасників, то менша ймовірність змістовної домовленості. ООН не підходить для започаткування таких дискусій через надто широкий склад учасників. Виникне спокуса відтворити у відносинах із Китаєм двосторонній формат часів холодної війни, однак Європа і, можливо, Індія також захочуть брати участь. Із кожним новим учасником досягти угоди стає складніше. Так само варто уникати формату в дусі Давоса, де представники приватного сектору з добрими намірами братимуть участь на рівних із державами. Через участь неурядових гравців переговори ризикують перетворитися на семінари.
Міжнародні угоди щодо ШІ неможливі без підтримки на рівні національного керівництва провідних ядерних держав. Будь-яка угода щодо ШІ, яка не охоплює Китай, матиме обмежену цінність. Водночас китайська сторона може зацікавитися переговорами, якщо вважатиме, що їх можна використати для гальмування американського прогресу. Прецеденти такої поведінки є і в радянській, і в китайській практиці. Наприклад, Китай у переговорах щодо звичайних озброєнь завжди ретельно добирав такі порогові значення, які охоплювали американську зброю, але не китайську.
Механізми контролю над біологічною зброєю складно розробити так, щоб вони не були надмірно обмежувальними, адже багато відповідних технологій мають подвійне призначення. Спроби обмежити біологічну зброю та її виробництво сягають 1960-х років. На ранніх етапах навіть розглядали обмеження для пивоварень, оскільки обладнання, яке використовують у пивоварінні, можна застосовувати й для виробництва біологічної зброї, а дистанційна перевірка без згоди сторони є складною. В одному з крайніх випадків США помилково розбомбили фармацевтичний завод у Судані після того, як супутникові знімки та зразки ґрунту поблизу, здавалося, засвідчили його причетність до виробництва біологічної зброї.
Біологічну зброю легко створити, але важко застосувати. Хоча її запаси накопичували різні країни, особливо росія, ніхто не застосовував біологічну зброю, за винятком випадків із салат-баром та вагоном метро (схоже, автор наводить атаку в токійському метро як приклад застосування біологічної зброї, проте 1995 року там застосували зарин – хімічну зброю – iPress). Її легко виготовити, але вона непередбачувана й складна у застосуванні: з такою ж імовірністю вона може обернутися проти самого нападника й заразити його. ШІ спрощує проєктування складніших видів зброї, але не змінює стримувальних чинників щодо її застосування та операційних труднощів, які це застосування створює.
Управління ризиками ШІ вимагає передусім відповіді на запитання, чим потрібно доповнити чинні угоди, як-от Конвенцію про біологічну зброю 1972 року (BWC), яка вже обмежує розроблення біологічної зброї. Успішна угода могла б мати одну з двох форм.
Загальне політичне зобов’язання не проводити досліджень із використанням ШІ для розроблення передової біологічної зброї. Для цього потрібна підтримка на президентському рівні з боку Китаю, росії та Сполучених Штатів, що нині видається малоймовірним. Після 1960 року контроль над озброєннями завжди був одним із пунктів порядку денного самітів між Радянським Союзом і США, а питання безпеки незмінно входили до порядку денного американсько-китайських самітів від часу перших переговорів Мао і Ніксона. Однак Китай і росія нині зосереджені на інших питаннях, а ця адміністрація воліє приділяти основну увагу торгівлі та бізнесу.
Другий варіант – розробити й погодити конкретні порогові параметри. Наприклад, Режим контролю за ракетними технологіями враховує і корисне навантаження, і дальність. Наше розуміння ШІ поки що недостатнє, щоб виробити стійкі порогові критерії, а це ускладнює досягнення домовленості. Всеохопні заборони на технології так приваблюють коментаторів і Конгрес саме тому, що не потребують складної роботи з визначення конкретних параметрів реального ризику.
Щонайменше все це свідчить про те, що заклики до міжнародної угоди є передчасними – це радше вияв емоцій і занепокоєння, ніж ефективна політична пропозиція. ШІ сам по собі не є зброєю. Він може вдосконалювати наявні види озброєнь і, можливо, створювати нові, але наразі найкраще реагувати на це через внесення змін до чинних угод про нерозповсюдження. Можливо, окрема угода саме щодо ШІ нам узагалі ніколи не знадобиться. Якщо додати до цього труднощі з перевіркою дотримання домовленостей, стає очевидно, що до моменту, коли міжнародні угоди щодо ШІ зможуть реально посилити міжнародну безпеку, ще дуже далеко.
Джерело: CEPA
