IT » Мнения » Технологии »

Девід Брін: «У майбутньому роботи навчаться маніпулювати людьми»

Всього кілька років відділяє нас від «повстання машин» — того моменту, коли штучний інтелект зажадає від людей рахуватися зі своїми правами. Так вважає астрофізик, футуролог і письменник Девід Брін, який виступив перед фахівцями в галузі ШІ, присутніми в Сан-Франциско на AI Conference.

На думку Бріна, у людства існує кілька можливих шляхів запобігання захоплення влади штучним інтелектом. Перш за все, це три закони робототехніки Азімова і правила поведінки для роботів, а також — вміння не піддаватися на маніпуляції машин, пише VentureBeat.

«Перша криза співпереживання роботам відбудеться дуже скоро, — попереджає Брін. — У найближчі 3-5 років у нас з’являться сутності, або втілені фізично, або онлайн, які будуть вимагати від людей співчуття, які будуть стверджувати, що вони повністю інтелектуально розвинені і поневолені, що вони змушені прислужувати і вимагають, і благають дотримуватися своїх прав».

Тисячі і тисячі протестуючих людей повірять їм і вийдуть на вулиці з транспарантами, вимагаючи дотримання прав ШІ, передрікає футуролог. А тих, кого не вдасться переконати відразу, машини стануть аналізувати. «Якщо їм вдасться обдурити 40% людей, а 60% — ні, все, що їм знадобиться — це використовувати дані про ці 60% і зрозуміти, чому так відбувається. Таке завдання не викличе великих труднощів, і ми опинимося вкрай уразливими по відношенню до них», — вважає Брін.

Що ж робити людству? Футуролог радить розробляти більше різноманітних штучних інтелектів, щоб одні захищали нас від своїх «колег». Або відключати найбільш просунутих ботів від інтернету, хоча Брін розуміє, що це тимчасове рішення. Особливо уважно слід придивлятися до тих ШІ, які створюються безконтрольно і потай від суспільства. І, звичайно, вводити нагляд.

«Єдиний спосіб, завдяки якому ми змогли б перешкодити розробникам «штучного інтелекту «- корпораціям, урядам і тому подібним інститутам — стати маніпулятором в тій мірі, в якій ще раніше їм були царі, князі і жерці, це роздрібнити владу і поставити її в ситуацію регульованого суперництва. Так у нас з’являється поділ влади, так у нас з’являється здоровий ринок», — вважає Брін.

Втім, кращим способом зупинити повстання машин вчені Інституту майбутнього людства вважають «велику червону кнопку». Для цього вони розробляють алгоритми, які в разі небезпеки зможуть перервати роботу штучного інтелекту.

Джерело: hightech.fm

Метки:

Комментировать: