Ученые предупредили об опасности сверхразумного ИИ

14 Янв 2021 | Автор: | Комментариев нет »

Невозможно построить эффективный алгоритм сдерживания искусственного суперинтеллекта, а значит его нельзя контролировать.

 

Команда ученых, в том числе из Центра людей и машин Института развития человека Макса Планка, пришла к выводу, что человечество не сможет держать под контролем искусственный суперинтеллект, даже если примет для этого все возможные меры. Статья с соответствующими выводами была опубликована в Journal of Artificial Intelligence Research, сообщает EurekAlert.

 

"Сверхразумная машина, которая управляет миром – звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?" – подчеркнул один из авторов исследования Мануэль Себриан.

 

Пройдя через множество алгоритмов и сценариев, исследователи пришли к выводу, что полностью контролировать сверхразумный ИИ невозможно.

 

Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Ранее об опасности ИИ предупреждали американский бизнесмен Илон Маск и физик Стивен Хокинг. 

Новости от Корреспондент.net в Telegram. Подписывайтесь на наш канал https://t.me/korrespondentnet

Источник: korrespondent.net

Здесь вы можете написать комментарий

* Обязательные для заполнения поля
Twitter-новости
Наши партнёры
Читать нас
Связаться с нами
Наши контакты

hardlod@gmail.com

О сайте

Все материалы на данном сайте взяты из открытых источников — имеют обратную ссылку на материал в интернете или присланы посетителями сайта и предоставляются исключительно в ознакомительных целях. Права на материалы принадлежат их владельцам. Администрация сайта ответственности за содержание материала не несет. Если Вы обнаружили на нашем сайте материалы, которые нарушают авторские права, принадлежащие Вам, Вашей компании или организации, пожалуйста, сообщите нам.