Ученые провели исследование с помощью компьютерного моделирования, чтобы выяснить, сможет ли человек управлять сверхразумным суперкомпьютером.

Эксперты Центра людей и машин при Институте развития человека Макса Планка, пришли к выводу, что человек не сможет контролировать сверхразумный компьютер с искусственным интеллектом.

Самым важным вопросом исследования было выяснение, сможет ли сдерживание искусственного интеллекта обеспечить безопасность человечеству. Ученые считают, что машина с искусственным интеллектом, который была бы в состоянии обучаться независимо от человека, в какой-то момент превзошла бы человеческий интеллект. Последствия доступа такой машины к накопленным человечеством знаниям и к всемирной Сети, пока неизвестны. Конечно, ИИ может, например, помочь победить рак или найти способы предотвращения глобальной климатической катастрофы, но и напротив, сможет уничтожить человечество и захватит власть на Земле.

Исследователи предлагают различные способы сдерживания и контроля искусственного интеллекта, в частности, изучались алгоритмы, запрещающие компьютерам наносить вред людям. Ученые сделали вывод, что человек не сможет в будущем создать такой сдерживающий алгоритм. Любой алгоритм сдерживания может в любой момент запустить процесс автоотключения и стать нерабочим, или же сверхразумный суперкомпьютер сможет и сам найти возможность отключить систему сдерживания.

Таким образом, по мнению ученых, может наступить такой момент, когда искусственный интеллект станет настоящей угрозой для человечества.