Співробітники Google вимагають не продавати технології ШІ військовим. Це може вплинути на війну в Газі
Майже 200 співробітників Google DeepMind, підрозділу компанії, що займається розробкою в галузі технологій штучного інтелекту, на початку цього року підписали лист, закликаючи технологічного гіганта розірвати контракти з військовими організаціями, пише журнал TIME. Лист був поширений на тлі зростаючих побоювань всередині лабораторії ШІ про те, що її технології продаються військовим, які беруть участь у бойових діях, що, за словами співробітників, є порушенням правил Google щодо ШІ.
Лист є ознакою зростаючої суперечки всередині Google між принаймні деякими співробітниками підрозділу ШІ, який пообіцяв ніколи не працювати над військовими технологіями, і його хмарним бізнесом, у якого є контракти на продаж сервісів Google декільком урядам і військовим, включаючи Ізраїль і США.
Лист підписали близько 5% від загальної чисельності персоналу DeepMind — невелика частина, але значний рівень занепокоєння співробітників для галузи, де видатні таланти в області машинного навчання користуються великим попитом.
Лист DeepMind від 16 травня цього року починається із заяви про те, що співробітники «стурбовані нещодавніми повідомленнями про контракти Google з військовими організаціями». У ньому не згадуються конкретні військові організації, але згадуються матеріали в ЗМІ, в яких йдеться, що у Google є прямий контракт на постачання хмарних обчислень і послуг ШІ для ізраїльської оборони в рамках більш широкого контракту з Ізраїлем під назвою Project Nimbus.
Лист також посилається на інші матеріали, в яких стверджується, що ізраїльські військові використовують ШІ для здійснення масового спостереження і вибору цілей для атак в секторі Газа.
«Будь-яка участь у військовій справі і виробництві зброї впливає на нашу позицію лідерів в області етичного і відповідального ШІ і суперечить нашій заяві про місію і заявленим принципам ШІ», — йдеться в листі, поширеному всередині Google DeepMind.
Принципи ШІ — це парасолькова політика компанії, яка передбачає, що Google не буде займатися додатками ШІ, які можуть завдати «загальної шкоди», сприяти створенню зброї або інших технологій, «основною метою або реалізацією» яких є завдання шкоди, або створювати технології, «мета яких суперечить загальноприйнятим принципам міжнародного права і прав людини».
У листі йдеться, що його підписанти стурбовані «забезпеченням дотримання принципів ШІ Google», і додається: «Ми вважаємо, що керівництво DeepMind поділяє наші побоювання».
Google заявляє, що Project Nimbus, її контракт з Ізраїлем, «не спрямований на високочутливі, секретні або військові робочі навантаження, що мають відношення до зброї або розвідувальних служб». За словами представника компанії, міністерства та уряд Ізраїлю, які є покупцями хмарних сервісів Google, включаючи розробки DeepMind, «погоджуються дотримуватися наших Умов обслуговування і Політики прийнятного використання».
У листі міститься заклик до лідерів DeepMind розслідувати звинувачення в тому, що військові і виробники зброї є користувачами Google Cloud; припинити доступ до технології DeepMind для військових користувачів; і створити новий орган управління, відповідальний за запобігання використанню технології DeepMind військовими клієнтами в майбутньому. Однак через три місяці після поширення листа Google не зробила нічого з цього, за словами чотирьох людей, обізнаних з цим питанням.
Коли DeepMind була придбана Google в 2014 році, керівники лабораторії домоглися від пошукового гіганта важливої обіцянки: їхня технологія ШІ ніколи не буде використовуватися у військових або розвідувальних цілях.
Протягом багатьох років лондонська лабораторія працювала з високим ступенем незалежності від каліфорнійської штаб-квартири Google. Але в міру того, як гонка ШІ наростала, DeepMind все щільніше втягувалася в саму Google.
Спроба керівників лабораторії в 2021 році забезпечити більшу автономію провалилася, і в 2023 році вона об’єдналася з іншою командою Google з ШІ — Google Brain.
Незалежна етична рада, яка, як сподівалися керівники DeepMind, буде регулювати використання технології лабораторії ШІ, в кінцевому підсумку зібралася лише один раз і незабаром була замінена парасольковою етичною політикою Google: Принципами ШІ. Хоча ці принципи обіцяють, що Google не буде розробляти ШІ, який може завдати «загальної шкоди», вони прямо дозволяють компанії розробляти технології, які можуть завдати шкоди, якщо вона дійде висновку, що «користь суттєво переважує ризики». І вони не виключають продаж ШІ Google військовим клієнтам.
Крім того, за словами співробітників Google, з міркувань конфіденційності компанія має обмежену інформацію про використання її інфраструктури державними клієнтами, а це означає, що Google може бути складно, якщо не неможливо, перевірити, чи порушується її політика прийнятного використання, яка забороняє користувачам використовувати її продукти для участі в «насильстві, яке може призвести до смерті, серйозної шкоди або травми».
«Деталі» вже писали, що і в інших підрозділах Google співробітники закликають розірвати контракти з Ізраїлем у зв’язку з війною в секторі Газа.
Автор: Олександра Аппельберг
Фото: Pixabay
