Эксперт компании Anthropic выступил с апокалиптическим прогнозом развития ИИ — по его мнению, нейросети смогут уничтожить человечество в течение 10 лет. Но гендиректор российской компании «Ашманов и партнёры» Игорь Ашманов заявил «Ридусу», что его американский коллега погорячился.

Ранее руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер объявил в социальной сети, что в ближайшее десятилетие «в результате повторного самосовершенствования» вполне может возникнуть «суперинтеллект», способный полностью покончить с человечеством в духе фильмов о Терминаторе.

«Мы действительно искренне считаем, что ИИ может убить все человечество! Лично я думаю, что вероятность этого превышает 10% в течение ближайших десяти лет», — сообщил Хьюбингер.

Тем не менее, Игорь Ашманов считает, что представитель Anthropic слишком оптимистичен — конечно, в отношении перспектив развития нейросетей.

«Во-первых, все эти высказывания базируются на изначальном оптимистическом предположении, что люди вот-вот создадут сверхразум, так называемый общий искусственный интеллект, или генерал-AI, а уже тогда понятно, что он захватит мир, и так далее. Я занимаюсь искусственным интеллектом с 1983 года, и всё это время разработчики уверяют, что до создания разума, превосходящего человеческий, осталось 5-7 лет. Всегда были такие „безумные пророки“ — Рэй Курцвайль, Харари, а теперь эти ребята из „Антропика“», — сказал Ашманов «Ридусу».

Гендиректор «Нейросетей Ашманова» добавил, что у ИИ в ближайшее десятилетие есть возможность глобально навредить людям — но решение об этом будут принимать политические лидеры, в чьи руки он попадёт:

«Искусственный интеллект сам по себе в принципе не может быть опасен — опасны умные люди, которые его хотят применять, в том числе против нас. Надо бояться того, что с нами сделают американцы, если мы не построим систему защиты от их искусственного интеллекта, от систем целеуказания и управления роями беспилотников-камикадзе», — сказал эксперт.

Ранее исследователь Anthropic Джейкоб Коксон объявил, что уходит из индустрии из-за опасений, что разработчики вскоре создадут ИИ, способный в близком будущем выйти из-под контроля.