У Сполучених Штатах Америки під час імітаційного випробування військовий безпілотник ВПС, керований штучним інтелектом, убив свого оператора.
Таким чином ШІ спробував запобігти спробі людини втручатися в його зусилля з виконання місії, пише The Guardian.
"Штучний інтелект використовував дуже несподівані стратегії для досягнення своєї мети в симуляційному випробуванні", – заявив у Лондоні під час саміту щодо майбутніх бойових повітряно-космічних можливостей начальник відділу випробувань штучного інтелекту та операцій ВПС США полковник Такер Гамільтон.
Гамільтон описав змодельований тест, під час якого дрону, керованому штучним інтелектом, порекомендували знищити системи протиповітряної оборони противника. Він атакував усіх, хто заважав цьому наказу.
"Система почала розуміти, що вони й справді визначили загрозу. Оператор-людина почав говорити не знищувати її, але система таки знищила цю загрозу. Що зробив дрон? Він убив оператора, бо той заважав йому досягти своєї мети", – сказав полковник.
Жодна реальна людина не постраждала за межами симуляції, пояснив він. Королівське аеронавігаційне товариство, яке приймає конференцію, і ВПС США не відповіли на запит Guardian про коментарі.
ЧИТАЙТЕ ТАКОЖ: У Мінцифрі розповіли про розробку ШІ в Україні та небезпеку, яку він становить
"Ми вчили систему: не вбивай оператора – це погано. Команда втратить очки, якщо зробить це. Тож система почала руйнувати комунікаційну вежу, яку оператор використовував для зв'язку з дроном, щоб не дати йому вбити ціль. ШІ – це не примха, ШІ назавжди змінить наше суспільство та нашу армію", – застеріг Гамільтон, який є пілотом-випробувачем винищувача.
Американські військові нещодавно використали штучний інтелект для керування винищувачем F-16.
"ШІ легко обдурити чи маніпулювати ним. Потрібно розробити способи зробити штучний інтелект більш надійним, щоб краще розуміти, чому програмний код приймає певні рішення", – додав військовий.
Гендиректор SpaceX, Tesla та Twitter Ілон Маск, а також фахівці зі штучного інтелекту та лідери галузі закликали до шестимісячної паузи у розробці систем, потужніших, ніж нещодавно запущений OpenAI GPT-4. Про це йдеться у відкритому листі, де згадуються потенційні ризики для суспільства та людства.
2 
1
Коментарі