Прогноз Європолу: Роботи зможуть об'єднуватися та нападати на людей
Чи можуть збунтуватися автономні роботи, дрони та генеративні ШІ ? А їхні помилки – це помилки штучного інтелекту, оператора чи розробника? Чи зіштовхнемося ми з футуристичним апокаліпсисом з фільмів «Робокоп» та «Термінатор» на підставі доповіді-прогнозу «Європола» - розбиралася журналістка Коротко про.
Проблеми недалекого майбутнього
«Розлючені натовпи безробітних громадян влаштовують заворушення на вулицях проти полчищ сервісних роботів, які забрали у них робочі місця. Озброєні «роботизованими морозильними гарматами» і «нано-мережевими гранатами» поліцейські збивають рої дронів, запущених терористами для нападу на електро- та водопостачання… Це не сюжет нового науково-фантастичного фільму, а те, що може очікувати Європу в найближчі 10 років, згідно зі звітом поліцейського агентства ЄС», - так починає свій моторошний матеріал британське видання The Telegraph.
Журналісти посилаються на 48-сторінкове дослідження Європолу, де докладно описано, як поліції доведеться боротися з роботами та безпілотними системами вже в недалекому майбутньому. І поки незалежні експерти намагаються зрозуміти, з наскільки серйозними обличчями писалася ця доповідь, у Європолі не менш серйозно заявили, що їхні прогнози не «надумані», а цілком «правдоподібні сценарії майбутнього». Ні, не передбачення, а сувора аналітика завтрашніх проблем, які потребують вирішення вже сьогодні.
Інтелект – штучний, вплив на світ – реальний
Зрозуміло, що штучний інтелект (ШІ) та автоматизація увійшли до нашого життя щільно і не скоро з нього вийдуть. Вже зараз у світі активно тестують та впроваджують системи автопілотів для автомобілів, роботів-помічників, генеративні ШІ для медицини та навіть зброю на базі ШІ.
Усі ці розробки обіцяють полегшити життя та прискорити прогрес, але не без ризиків. Поки одні роботи прибиратимуть будинки та доставлятимуть замовлення, інші навчаться зламувати електронні гаманці та підробляти банківські картки. І питання, яке постало вже сьогодні, навряд чи отримає відповідь у майбутньому: хто винен у помилках ШІ?
Для ілюстрації можна згадати компанію Tesla та інциденти, пов'язані з її автомобілями на дорогах. Наприклад, система автопілота Tesla неодноразово ставала причиною аварій, у тому числі з летальними наслідками. 2023 року в Каліфорнії суд визнав компанію частково відповідальною за смертельний результат у ДТП за участю автопілота.
- Система автопілота Tesla навряд чи зможе уникнути всіх несподіваних ситуацій на дорозі, якщо не вдосконалюватиметься. Ми спостерігаємо за нею як за потенційною загрозою, - сказав тоді інженер з безпеки даних Tesla Джон Сміт. Він наголосив: найнебезпечніші технології ШІ пов'язані з фізичним впливом на реальний світ. Будь-яка помилка в діях дронів, роботів або безпілотних автомобілів може призвести до трагічних наслідків.
ШІ – не найкращий діагност
Медицина та автономний транспорт – ось де помилки ШІ можуть мати фатальні наслідки. Цього року у Китаї розпочався судовий процес, де розглядався випадок смерті пацієнта після помилки у діагнозі, поставленому системою ШІ. Цей випадок став прецедентом у юридичній практиці, що підтверджує, що ШІ, який приймає критично важливі рішення, повинен піддавати себе суворому контролю. І поки що незрозуміло, хто (або що) обвинувачений у цьому процесі: лікарі чи розробники алгоритмів?
У Європі намагаються прийняти закон AI Act, де увага приділяється не лише потенційним збиткам, а й ступеню ризику, який несе ШІ-система. Наприклад, для високоризикових систем, таких як автономні машини або біометрія, оператори зобов'язані відповідати за безпеку. І відповідальність лягає не лише на виробників технологій, а й на користувачів.
- Як тільки ШІ починає взаємодіяти з реальним світом, відповідальність за його дії має бути розділена між розробником та кінцевим користувачем, - стверджує експерт з технологій та права Джонатан Кларк.
У США більше уваги приділяється існуючим законам, наприклад, захисту споживачів та прав на інформацію. У Китаї контроль за ШІ в основному спрямований на безпеку та політичну стабільність. Піднебесна активно контролює впровадження ШІ у сфері масового спостереження.
Поліцейські раптом виявлять, що їх замінюють роботи
У Європолі пішли далі і посилили ймовірність майбутнього повстання машин приблизно до тієї, що у «Термінаторі». А щоб було і як у «Робокопі», спершу розглядаються можливі наслідки використання ШІ у правоохоронних органах та інших сферах Європи до 2035 року. Передбачається, що поліцейські сили можуть використовувати роботів, дрони та автоматизовані системи для спостереження та контролю, що призведе до створення «Робокоп-стилю» у суспільстві.
«Співробітники поліції та роботи працюватимуть пліч-о-пліч, реагуючи на надзвичайні ситуації, проводячи обшуки та збираючи докази», - йдеться у доповіді. А ще: «Співробітники, які виконують патрулювання або регулювання дорожнього руху, можуть виявити, що їх замінюють роботи, що призведе до невдоволення серед рядових співробітників».
Далі – більше і страшніше. І інші люди, які втратили через роботизацію роботу, виходитимуть на вулиці і нападатимуть на «ботів». З'являться кіберзлочинці, які зламуватимуть роботів-помічників для літніх та дітей і збиратимуть інформацію про їхніх підопічних, щоб потім ними маніпулювати.
Терористи керуватимуть сотнями кишенькових квадрокоптерів із ШІ для атак на енергосистеми або для звільнення злочинців із в'язниць. Власне, мексиканські картелі цим уже займаються, запевняють у Європолі.
А визнати робота-негідника речовим доказом не можна, як і допитати! І як дізнатися, чи врізався безпілотний автомобіль у паркан випадково чи навмисно?
Ставити людей на перше місце
«У цій неспокійній обстановці навіть незначні неполадки, такі як призначення неправильних ліків роботом-терапевтом у лікарні, роздмухуються до масштабів національних скандалів, підживлюючи популістські заклики «ставити людей на перше місце», - продовжують лякати експерти Європолу.
Там навіть навели реальні приклади того, як роботи виходять із ладу або використовуються злочинцями, щоб обґрунтувати свій аналіз.
Так, у липні 2022 року шаховий робот зламав палець своєму семирічному супернику під час турніру. Влітку цього року колумбійська поліція виявила автономний підводний човен, дистанційно керований супутником Starlink, який перевозив 1,5 тонни кокаїну в напрямку Європи. У вересні каліфорнійська поліція зупинила автомобіль після того, як водій здійснив незаконний розворот, але виявилося, що за кермом не було водія.
Хто винен і що робити – поки що неясно. Журналісти The Telegraf наводять слова Дениса Незгоди, комерційного директора компанії Locus Robotic (виготовляє роботів з ШІ для роботи на складах). Проте містер Незгода не погодився з тим, що через 10 років поліцейські поб'ються з роботами-напарниками.
- Я не уявляю, щоб Робокоп перебігав наші вулиці і займався поліцейською діяльністю, я просто не вірю, що роботи замінять цю роботу, - наголосив Незгода.
За його словами, населення Європи старіє і робочих рук не вистачає. Тож використання роботизації та автоматизації навряд чи забере в когось роботу. Тож не треба панікувати та публікувати «екстремальні сценарії нашого майбутнього». Людський фактор нікуди не подінеться, хай навіть на Землі залишиться останній із хомо сапієнс.
