Новини науки

Штучний інтелект може посилити автократії, а також вирівняти поле бою

Очікується, що штучний інтелект змінить наше повсякденне життя незліченними способами: від написання студентами своїх есе до обслуговування урядами своїх громадян. Штучний інтелект (ШІ) вже використовується Україною у війні з росією. Але наскільки революційним буде ШІ? Чи змінить він глобальний баланс сил? Чи дозволить він автократіям правити світом, ставить питання у колонці для Bloomberg почесний професор Школи перспективних міжнародних досліджень імені Генрі Кіссінджера при Університеті Джонса Гопкінса Гел Брендс.

«Звісно, поки що зарано робити однозначні висновки: вплив ШІ в кінцевому підсумку залежатиме від рішень, які приймають лідери та нації, а технології іноді роблять несподівані повороти… І ми повинні розглянути несподіваний варіант: можливо, ШІ змінить світ не так сильно, як ми очікуємо», – зазначає Брендс, думки якого скорочено наводимо нижче.

Чи зробить ШІ війну неконтрольованою?

Те, що ШІ змінить війну, не викликає сумнівів. Можливості ШІ дуже широкі – від забезпечення прогнозованого технічного обслуговування обладнання до сприяння вражаючому поліпшенню точності наведення на ціль. Один літак F-35, який керує роєм напівавтономних безпілотників, може мати вогневу міць цілого бомбардувального крила.

Але нічого принципово нового тут немає. Історія війн протягом століть – це історія, в якій інновації регулярно роблять бойові дії швидшими та інтенсивнішими. Тому подумайте двічі, перш ніж погодитися з твердженням, що ШІ зробить ескалацію неконтрольованою.

Насправді, ШІ може зменшити ризик стрімкої ескалації, допомагаючи тим, хто ухвалює рішення, бачити крізь туман кризи і війни. Пентагон вважає, що розвідувальні та аналітичні інструменти на основі штучного інтелекту можуть допомогти людям просіяти заплутану або фрагментарну інформацію про підготовку ворога до війни або навіть про те, чи дійсно відбувається ракетна атака, якої вони бояться. Це не наукова фантастика: Як повідомляється, ШІ допомогла аналітикам американської розвідки «винюхати» вторгнення росії в Україну у 2022 році.

У цьому сенсі ШІ може пом'якшити невпевненість і страх, які штовхають людей до екстремальних реакцій. Надаючи політикам більше розуміння подій, ШІ може також покращити їхню здатність керувати ними.

Чи допоможе ШІ автократіям на кшталт Китаю контролювати світ?

Спецслужбам, оснащеним штучним інтелектом, знадобиться менше робочої сили для розшифровки величезних обсягів інформації, яку вони збирають про своє населення, що дозволить їм, наприклад, точно наносити на карту і безжально ліквідовувати протестні мережі. Вони використовуватимуть технологію розпізнавання облич на основі ШІ для моніторингу та контролю над своїми громадянами, одночасно використовуючи дезінформацію, створену ШІ, для дискредитації критиків всередині країни та за кордоном. Роблячи автократію все більш ефективною, ШІ може дозволити диктаторам домінувати в епоху світанку.

Пекін має намір захопити «стратегічні командні висоти» інновацій, оскільки вважає, що ШІ може зміцнити його внутрішню систему і військові м'язи. Він використовує владу неліберальної держави, щоб спрямувати гроші і таланти у сферу передових технологій. Однак не факт, що автократії вирвуться вперед.

Створення потужних великих мовних моделей вимагає величезних масивів інформації. Але якщо ці вхідні дані будуть заплямовані або упереджені через те, що китайський інтернет піддається жорсткій цензурі, якість вихідних даних постраждає. З часом все більш репресивна система також буде намагатися залучити найкращі таланти: показовим є той факт, що 38% провідних дослідників ШІ в США походять з Китаю.

Китай буде грізним технологічним конкурентом. Але навіть в епоху ШІ Сі та його неліберальним побратимам, можливо, буде важко уникнути конкурентного тягаря, який створює автократія.

Чи буде ШІ сприяти кращим чи всім іншим?

Деякі технології скорочують розрив між найбільш і найменш технологічно розвиненими суспільствами. У деяких аспектах ШІ розширить можливості слабких. Американські чиновники побоюються, що великі мовні моделі можуть допомогти терористам з грубими науковими наборами створити біологічну зброю. Держави-ізгої, такі як Іран, можуть використовувати ШІ для координації роїв безпілотників проти військових кораблів США в Перській затоці. У більш доброзичливому сенсі ШІ може розширити доступ до базових медичних послуг на Глобальному Півдні, що принесе великі вигоди у вигляді збільшення тривалості життя і підвищення економічної продуктивності.

Однак в інших аспектах ШІ буде грою для багатих. Розробка найсучаснішого ШІ коштує фантастично дорого. Навчання великих мовних моделей може вимагати величезних інвестицій і доступу до обмеженої кількості найкращих вчених та інженерів - не кажучи вже про приголомшливу кількість електроенергії.

Те, що вірно в приватному секторі, може бути вірним і в сфері ведення війни. На початковому етапі військові переваги нових технологій можуть непропорційно розподілятися між країнами з щедрими оборонними бюджетами, необхідними для розробки і масштабного застосування нових сил і засобів.

Однак наразі ШІ може зробити більше для зміцнення балансу сил, ніж для його революційної зміни.

Чи зруйнує ШІ коаліції або зміцнить їх?

Те, як штучний інтелект впливає на баланс сил, залежить від того, як він впливає на глобальні коаліції. Як задокументували аналітики Центру безпеки та нових технологій Джорджтаунського університету, США та їхні союзники можуть значно випередити Китай у витратах на передові технології - але тільки якщо вони об'єднають свої ресурси. Найбільша надія Пекіна полягає в тому, що вільний світ розколеться через ШІ.

Це може статися. Вашингтон побоюється, що новий підхід Європи до регулювання генеративного ШІ може задушити інновації: у цьому сенсі ШІ підкреслює розбіжності в підходах США і Європи до ринків і ризиків. Інша ключова демократія, Індія, віддає перевагу стратегічній автономії перед стратегічним узгодженням – в технологіях, як і в геополітиці, вона воліє йти власним шляхом. Тим часом деякі недемократичні партнери Вашингтона, а саме Саудівська Аравія та ОАЕ, вивчають можливість тісніших технологічних зв'язків з Пекіном.

Але геополітичні розклади визначають розвиток ШІ, а не навпаки. Фундаментально, переваги країн щодо ШІ пов'язані з їхніми уподобаннями щодо внутрішнього і міжнародного порядку. Тому будь-які розбіжності між США і Європою можуть зблякнути в порівнянні з їхніми спільними побоюваннями щодо того, що станеться, якщо Китай прийде до панування. Європа і Америка, можливо, врешті-решт знайдуть шлях до більшого узгодження в питаннях ШІ - так само, як спільна ворожість до могутності США підштовхує Китай і Росію до більш тісної співпраці у військовому застосуванні цієї технології сьогодні.

Чи приборкає ШІ суперництво між великими державами або розпалить його?

Ніхто насправді не знає, чи може ШІ, що вирвався з-під контролю, справді загрожувати людству. Але спільні екзистенційні ризики іноді призводять до дивних взаємовідносин.

Сьогодні контроль над озброєннями зі штучним інтелектом видається навіть більш складним, ніж контроль над ядерними озброєннями, оскільки розвиток ШІ так важко контролювати, а переваги односторонньої переваги такі спокусливі. Тож навіть коли США і Китай починають діалог щодо ШІ, технологія турбулізує їхню конкуренцію.

ШІ знаходиться в центрі китайсько-американської технологічної війни, оскільки Китай використовує всілякі методи, щоб прискорити свій розвиток, а США застосовують експортний контроль, обмеження інвестицій та інші заходи, щоб перепинити Пекіну шлях.

ШІ також підживлює боротьбу за військову перевагу в західній частині Тихого океану: Ініціатива Пентагону «Реплікатор» передбачає використання тисяч дронів зі штучним інтелектом для знищення китайського флоту, що прямує до Тайваню. Держави-суперники можуть зрештою знайти шляхи співпраці, можливо, мовчазної, щодо взаємних небезпек, які несе в собі ШІ. Але трансформаційна технологія посилить багато аспектів їхнього суперництва в майбутньому.

Чи зробить ШІ приватний сектор важливішим за державний?

Таким чином, компанії на передовій ШІ стають потужними геополітичними гравцями – і уряди знають про це. Коли Ілон Маск та інші експерти виступили за мораторій на розробку передових моделей ШІ у 2023 році, офіційний Вашингтон закликав технологічні компанії не зупинятися – адже це просто допоможе Китаю наздогнати їх. Державна політика може прискорювати або сповільнювати інновації. Але стратегічні перспективи Америки значною мірою залежать від досягнень приватних компаній.

Важливо не завести цей аргумент занадто далеко. Китайський військово-цивільний синтез має на меті забезпечити державі можливість спрямовувати і використовувати інновації приватного сектору. Хоча США, як демократична країна, не можуть імітувати такий підхід, концентрація великої влади в руках приватних фірм викличе реакцію уряду.

Вашингтон, хоч і нерішуче, але бере участь у дебатах про те, як найкраще регулювати ШІ, щоб сприяти інноваціям і водночас обмежити зловмисне використання. США ніколи не дозволять китайським інвесторам купувати провідні національні фірми, що займаються ШІ, і обмежують американські інвестиції в ШІ-сектори країн-супротивників. А коли банк Кремнієвої долини, який зберігав депозити багатьох фірм та інвесторів у технологічному секторі, опинився на межі банкрутства, геополітичні проблеми допомогли ініціювати державну допомогу.

Ми не можемо передбачити майбутнє: ШІ може зайти в глухий кут або ж розвиватися швидше, ніж будь-хто очікує. Крім того, технологія не є якоюсь автономною силою. Її розвиток і наслідки будуть визначатися рішеннями у Вашингтоні та в усьому світі.

Звичайно, є причини побоюватися, що ШІ зробить війну неконтрольованою, порушить баланс сил, зруйнує американські альянси або принципово віддасть перевагу автократіям над демократією. Але є також вагомі підстави підозрювати, що цього не станеться.

«Я не закликаю до самозаспокоєння. Запобігання більш небезпечним наслідкам вимагатиме енергійних зусиль і розумного вибору. Насправді, головна цінність цієї вправи полягає в тому, щоб показати, що можливий дуже широкий спектр сценаріїв – і найгірші з них не реалізуються самі собою», резюмує Брендс.