Илон Маск призвал остановить разработку нейросетей

Илон Маск, сооснователь Apple Стив Возняк и более тысячи ведущих экспертов в области искусственного интеллекта составили открытое письмо с призывом остановить обучение нейросетей, чьи возможности превосходят языковую модель GPT-4 от OpenAI.

Они считают, что неконтролируемая разработка ИИ-систем может представлять серьезную опасность для всего человечества, а потому необходимо продумать стандарты безопасности, за соблюдением которых будут следить независимые регуляторы.

«В последние месяцы лаборатории, занимающиеся ИИ, вступили в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто — даже их создатели — не в состоянии понять, предсказать или надежно контролировать», — говорится в письме.

На первом этапе предлагается временно заморозить разработку как минимум на полгода и заняться в это время вопросами регулирования искусственного интеллекта. Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.