Работа была опубликована в Journal of Artificial Intelligence Research. Во время исследований международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.
Существует опасность, более красочно описанная в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить способность человека управлять сверхинтеллектуальными роботами.
«Сверхразумная машина, которая управляет миром, звучит как научная фантастика. Но уже есть машины, которые выполняют определенные важные задачи полностью независимо, при этом программисты до конца не понимают, как они этому научились. Поэтому возникает вопрос, может ли это в какой-то момент стать неконтролируемым и опасным для человечества», — говорит соавтор исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института развития человека Макса Планка.
Благодаря моделированию и всяческим теоретическим расчетам ученые выяснили, что если заложить в ИИ самые основные этические нормы и оградить от интернета, то этого не хватит для спасения человечества. Искусственный интеллект даже без интернета будет пытаться получить больше информации и вскоре выйдет из-под контроля.
«Если разложить проблему на основные правила теоретической информатики, окажется, что алгоритм, который приказал бы ИИ не разрушать мир, может непреднамеренно остановить свои собственные операции. Если бы это произошло, вы бы не знали, будет ли алгоритм сдерживания все еще анализировать угрозу, и остановил ли он ее для сдерживания вредоносного ИИ. По сути, это делает алгоритм сдерживания непригодным для использования», — говорит Ияд Рахван, директор Центра людей и машин.
На основе этих расчетов проблема сдерживания невыполнима, то есть ни один алгоритм не сможет найти решение для определения того, причинит ли ИИ вред миру или нет.
Больше интересных статей здесь: Новости науки и техники.
Источник статьи: Люди не смут управлять сверхразумными машинами....