Развитие искусственного интеллекта приведет к уничтожению человечества ( 1 фото )

Из ведущих компаний по разработке ИИ увольняются топ-менеджеры. Они боятся, что их работа приведёт к уничтожению человечества.

Как пишет издание Axios, за последнее время из передовых компаний, работающих над нейросетями, уже ушли 10 сотрудников. Это не обычные менеджеры, а люди из руководства и ведущие инженеры. Причина — страх перед развитием технологии, которая может привести человечество к катастрофе.

Илон Маск, основатель Grok, у себя на странице в X оценил p(doom) в 20%. P(doom) изначально была шуткой, но теперь стала серьёзной метрикой, измеряющей риск гибели человечества от сверхразумного ИИ. Генеральный директор Google Сундар Пичаи в подкасте у Лекса Фридмана назвал схожий диапазон — от 15% до 25%.

Речь идёт об AGI — сильном искусственном интеллекте, сравнимом с человеческим, способным к универсальному обучению и решению задач. Никто точно не знает, когда он появится. Тот же Пичаи считает, что это произойдёт чуть позже, чем через 5 лет.

Для оптимистов, не видящих в ИИ угрозы, авторы исследования высказали своё мнение:

Сами разработчики ИИ оценивают вероятность уничтожения человечества в 1 из 10, а возможно, даже в 1 из 5.

А ваше мнение на этот счет?