Институт в Великобритании допустил потерю контроля над ИИ в течение пяти лет

В ближайшие пять лет могут появиться системы искусственного интеллекта (ИИ), превосходящие человека по всем когнитивным задачам, что создаст риск потери значимого человеческого контроля над ними.

Об этом говорится в докладе на официальном сайте Института Алана Тьюринга в Великобритании.

"Вопросы о долгосрочном будущем человечества заслуживают внимания, но дискуссии о продвинутом искусственном интеллекте не должны вестись исключительно технологическими компаниями или строиться только вокруг самых экстремальных сценариев. Мы достаточно знаем о многих серьезных рисках, связанных с ИИ, чтобы действовать", - сказал генеральный директор института Джордж Уильямсон.

Авторы исследования отметили, что в ближайшие пять лет могут появиться более мощные и автономные системы ИИ, поведение которых людям будет сложнее оценивать, контролировать и при необходимости отменять. При этом в институте подчеркнули, что неопределенность вокруг долгосрочных угроз не должна мешать работе с уже существующими рисками.

В докладе также выделены угрозы для кибербезопасности и демократических процессов, риск расхождения действий ИИ с намерениями человека, а также возможные химические и биологические угрозы. В институте призвали усилить проверку и контроль не только отдельных моделей, но и полноценных ИИ-систем после их внедрения.

Генеральный директор компании OpenAI Сэм Альтман ранее заявил, что прогресс ИИ может пойти по двум крайне опасным сценариям, которых человечеству необходимо во что бы то ни стало избежать. Первой глобальной угрозой он назвал потенциальный риск полной потери контроля над будущим в пользу развивающихся систем. Второй критической проблемой глава OpenAI считает вероятную и чрезмерную концентрацию безграничной власти в одних руках.