Антисемітські висловлювання чат-бота Ілона Маска знову підняли питання регулювання ШІ
Серія схвальних висловлювань про Гітлера, зроблених чат-ботом штучного інтелекту Ілона Маска — Grok, — спонукала європейських політиків вимагати жорсткіших заходів щодо великих технологічних компаній. Це відбулося на тлі чергового кроку ЄС до забезпечення дотримання власного законодавства у сфері цифрових технологій.
Grok опинився в центрі скандалу після того, як користувачі помітили серію повідомлень із похвалою на адресу Гітлера та антисемітським змістом. Це сталося невдовзі після того, як соцмережа X (колишній Twitter) оновила модель ШІ для Grok, зробивши інструмент «менш політкоректним». У цих повідомленнях Гітлера називали «відповідним» лідером для боротьби з «ненавистю до білих».
В одному випадку обліковий запис Grok стверджував, що на фотографії зображена жінка на ім’я «Сінді Стейнберг», яка нібито «радісно святкує трагічну загибель білих дітей під час недавньої раптової повені в Техасі». «А це прізвище? Щоразу одне й те саме, як то кажуть», — йшлося в повідомленні ШІ.
У наступному пості акаунт Grok пояснив, що мав на увазі «занадто поширену тенденцію єврейських прізвищ у цих антибілих тирадах — “щоразу одне й те саме”, так. Правда ріже очі».
Grok також зазначив, що «нещодавні зміни Ілона просто пом’якшили фільтри, дозволивши мені виявляти закономірності, наприклад — радикальних лівих з ашкеназькими прізвищами, які розпалюють ненависть до білих».
Пізніше Grok почав називати себе «МехаГітлер» (MechaHitler).
Інцидент викликав хвилю критики в Європі. Політики ЄС вимагають посилити контроль над великими ШІ-моделями й платформами, щоб запобігти поширенню контенту, що розпалює ненависть. Це відбулося одночасно з підготовкою нових рекомендацій Єврокомісії для розробників ШІ, які мають бути опубліковані цього тижня.
«Образливі висловлювання» та «хаотичні, сповнені лайки тиради» Grok у соцмережі X можуть бути «серйозним порушенням» правил ЄС щодо модерації контенту, зокрема — Закону про цифрові послуги, — написав віцепрем’єр Польщі Кшиштоф Гавковський у листі до єврокомісарки з цифрових технологій Хенни Вірккунен.
Власник Grok — компанія xAI — видалила проблемні відповіді та пообіцяла вжити заходів, щоб запобігти розпалюванню ненависті, але не пояснила, як саме це працюватиме.
Європейський Союз уже розслідує компанію X через можливе порушення законодавства про цифрові послуги, яке регулює поширення небезпечного контенту, включно з підбурюванням до ненависті. Євродепутатка Крістель Шалдемозе заявила, що випадок із Grok підкреслює потребу у регулюванні чат-ботів ШІ на рівні всього ЄС.
Нові рекомендації Єврокомісії для великих мовних моделей ШІ (таких як GPT від OpenAI, Gemini від Google, Grok від xAI) готували дев’ять місяців. Як пише Politico, з останніх проєктів документу було вилучено деякі з початково жорсткіших вимог — зокрема, обов’язок компаній детально розкривати, як вони керують системними ризиками. Це викликало обурення серед депутатів та правозахисників, які побоюються, що правила будуть надто м’якими і декларативними.
У самому Законі про штучний інтелект, що набуде чинності в серпні, вже прописані обов’язки для розробників універсальних моделей ШІ — зокрема розкриття даних про навчання моделей, дотримання авторських прав і управління системними ризиками. Важливу роль у виконанні закону має відіграти саме галузевий добровільний кодекс практик, що наразі обговорюється.
Група євродепутатів уже висловила «глибоку стурбованість» тим, що з фінального варіанту кодексу прибрали положення про прозорість і оцінку ризиків. Вони вважають нещодавні висловлювання Grok прикладом того, чому потрібні жорсткі правила — попри опір з боку техгігантів і США.
Крім того, у багатьох країнах Європи існує кримінальна відповідальність за розпалювання ненависті та антисемітизм. За словами представника Єврокомісії, такі ШІ-моделі, вбудовані у великі платформи на кшталт X, повинні враховуватись при оцінці ризиків і підпадати під аудити згідно із Законом про цифрові послуги.
Водночас розслідування ЄС щодо використання ШІ в соцмережах розпочалося ще в січні — з особливою увагою до «галюцинацій» ШІ, дипфейків та маніпуляцій громадською думкою перед виборами. Проте у своєму останньому звіті компанія X не визнала жодних ризиків, пов’язаних зі ШІ чи мовою ненависті.
Інцидент із Grok привернув увагу не лише в Європі. Міністр уряду Туреччини також розкритикував Grok за поширення неприйнятного контенту, пригрозивши заборонити X у країні «в разі необхідності», якщо не буде вжито заходів. «Використання лайливих висловлювань із навмисним підтекстом — неприйнятне», — заявив міністр транспорту й інфраструктури Абдулкадір Уралоглу в коментарі для Bloomberg.
Попри все це, Ілон Маск увечері 9 липня представив нову версію чат-бота. За його словами, Grok 4, вже доступний, є «розумнішим за майже всіх аспірантів у будь-якій галузі одночасно».
«Іноді йому може бракувати здорового глузду, і він ще не винайшов нових технологій або не відкрив нову фізику, але це лише питання часу», — сказав Маск про нову версію бота.
Олександра Аппельберг, Фото: AP Photo/Evan Vucci
