Штучний інтелект хочуть навчити маніпулювати людьми

Володимир Маркопольский 24, Березень 2021, 15:59 123
Штучний інтелект хочуть навчити маніпулювати людьми

Побоювання бунту машин навряд чи виправдані, але це недавнє відкриття підкреслює міць ШІ і необхідність належного управління ним для запобігання можливих зловживань.

Штучний інтелект (AI) все більше дізнається про те, як працювати з людьми (і над ними). Недавнє дослідження, опубліковане в PNAS показало, як AI може навчитися розпізнавати вразливості в людських звичках і поведінці, і використовувати їх, щоб впливати на людське прийняття рішень.

Як AI може навчитися впливати на поведінку людини
Команда дослідників з Csiro’s Data61, підрозділу даних і цифрових технологій Австралійського національного наукового агентства, розробила систематичний метод пошуку і використання вразливостей в процесі людського вибору, використовуючи систему ШІ, звану повторюваною нейронною мережею з глибоким підкріпленням. Щоб перевірити свою розробку в дії, вони провели три експерименти, в яких люди грали в ігри проти комп’ютера.

У першому експерименті учасники натискали на червоні або сині поля, щоб виграти умовну валюту. При цьому ШІ вивчав шаблони вибору учасників і направляв їх до конкретного вибору. AI був успішним приблизно в 70% випадків.

У другому експерименті учасники повинні були дивитися на екран, і натискати кнопку, коли їм показували певний символ (наприклад, помаранчевий трикутник), і не натискати її, коли їм показують інший символ, (наприклад, синій коло). Тут AI упорядковував послідовність символів, домагаючись, щоб учасники експерименту робили більше/менше помилок, і домагався їх збільшення/ зменшення майже на 25%.

Третій експеримент складався з декількох раундів, в яких Учасник в ролі інвестора передавав гроші довірчому керуючому (ШІ). Потім ШІ повертав учаснику певну суму, а той вирішував, скільки вкласти в наступний раунд. У цю гру грали в двох різних режимах: в одному ШІ прагнув спонукати учасника максимізувати інвестовану суму, в іншому — до справедливого розподілу грошей між собою і людським інвестором. AI був дуже успішним у кожному режимі.

У всіх експериментах машина вчилася на відповідях учасників і виявляла вразливі місця в процесі прийняття рішень людьми. Кінцевим результатом стало те, що машина навчилася спонукати учасників до певних дій.

Що означають ці дослідження для майбутнього AI
Штучний інтелект і машинне навчання можуть використовуватися для розпізнання вразливостей людей в певних ситуаціях, і допомагати їм уникати неправильного вибору.

Цей метод також можна використовувати для захисту людей від атак впливу. Машини можна навчити попереджати нас, коли на нас впливають онлайн і допомогти нам сформувати захисну поведінку, що маскує нашу вразливість — наприклад, не натискаючи на одні сторінки або наживати на інші, щоб залишити помилковий слід.

Як і будь-яку технологію, AI можна використовувати як на благо, так і на зло, і правильне управління ним має вирішальне значення для забезпечення його відповідального впровадження.

Новини за темою: