Как пишет издание Technology Review, ученых беспокоятся из-за того, что развитие искусственного интеллекта способно породить такого монстра, который будет способен уничтожить человечество. Оно «играет с бомбой», уже приблизившись к опасной черте. Некоторые эксперты уверены, что искусственный интеллект в скором времени может истребить людей.

Эту тему поднимается не только в популярных зарубежных изданиях, заявлений фантастического характера Элона Маска и Стивена Хокинга, но и трактате знаменитого философа и преподавателя Ника Бострома. Невзирая на то, что философия является больше концептуальной наукой, где есть только предположения, этого оксфордского научного специалиста можно называть «страховым философом». Ник Бостром сумел сделать оценки степени риска развития искусственного интеллекта. Объединив результаты четырех разных исследований (в том числе результаты конференции «Philosphy and Theory of AI» в Греции), Бостром сделал заключение, что уже к 2022 году это интеллект станет мыслить как люди на 10%. К 2040-му году показатель будет составлять уже 50%, однако к 2075 году будет уже невозможно отличить искусственный интеллект от разума человека.

Чтобы подтвердить свои статистические данные, Ник Бостром решил провести анонимный опрос среди исследователей, отправив двум сотням своих коллег вопрос, когда, по их мнению, появится суперинтеллект, который значительно умнее наиболее лучших умов среди людей, более креативный, мудр и имеет социальные навыки. На протяжении недели 80 респондентов дали следующий ответ: 7,5% опрошенных убеждены, что это произойдет в течение 10-25 лет, 25% считают, что это вообще не произойдет, а 67,5% полагают, что  сверхразумный интеллект будет создан позднее, чем спустя 25 лет.

Несмотря на то, что имеется много опасений относительно искусственного интеллекта, особенно в вопросе его допуск к автономным системам вооруженных сил, большая часть ученых все же считают более выгодным его использование. В медицине интеллект поможет исключить ошибки врачей, уменьшить число автокатастроф, помочь людям в вопросах сотрудничества и другое. Эта более радужная перспектива значительно отличается от теории профессора Бострома.