ChatGPT: почему об этом все говорят и смогут ли нейросети заменить людей?

В последнее время буквально никуда не скрыться от новостей о нейросетях, а прежде всего о ChatGPT — «российский студент успешно защитил написанный ей диплом», «стартапы начали экономить на программистах: задачу, за которую человек просит пять тысяч фунтов и две недели, нейросеть решает за 11 центов и 10 минут», «на телевидении Ставропольского края запустили прогноз погоды, где даже ведущая Снежана Туманова создана искусственным интеллектом», «Билл Гейтс назвал ChatGPT величайшим изобретением за последние 50 лет». Что это такое? Очередная сенсация, которая скоро сдуется, или всё же нечто иное? 

ChatGPT — это диалоговая программа на базе искусственного интеллекта, которая обучает сама себя по всей мировой базе знаний, может отвечать текстом почти как живой человек (причём на огромном множестве языков, включая русский), решать вопросы любой сложности и из разных областей, делать подборки статей для научных работ, писать эссе, стихотворения и даже компьютерные коды. Нужны ли вообще теперь, например, интернет-поисковики? Даже крупнейшие корпорации забеспокоились и спешно начали разрабатывать свои «умные» чат-боты.

Владимир Арлазаров — один из создателей отечественной системы, построенной на искусственном интеллекте. Она легко и быстро считывает данные платёжных карт, текстовых и личных документов. Разработка успешно применяется банками и даже пограничниками, помогая выявить поддельные паспорта. Чтобы натренировать систему, Владимир с командой создали ещё одну модель, которая сгенерировала образцы для обучения — всё, даже фотографии, личные данные и подписи компьютер выдумал сам. И это не предел возможностей.

Но главная причина успеха именно ChatGPT — универсальность. Ей легко воспользоваться, определённое число запросов в день разработчики предоставляют бесплатно, а дальше просят всего 20 долларов в месяц. Экономить на сотрудниках с помощью нейросети тут же бросились специалисты по соцсетям, рекламщики, программисты. Однако эксперты предупреждают — тут есть опасность.

Впитывая всё как губка, нейросеть постоянно обучается: любую информацию, которую загружает один пользователь, она запоминает, обрабатывает и хранит, а потом может выдать по запросу и другому человеку. В марте разработчики ChatGPT сами признались в случаях утечки и даже ненадолго отключали систему для исправлений. Посторонним тогда были видны чужие сообщения, личная информация и даже данные банковских карт. После этого в Италии использование нейросети вовсе решили запретить (местные программисты теперь массово пользуются VPN для обхода блокировки). Такое же решение приняли и власти Китая, но с другой мотивировкой: информация, которую выдает чат-бот, может противоречить законодательству.

Угрозу признаёт и один из создателей ChatGPT — в недавнем интервью Сэм Олтмен заявил, что возможность применения системы злоумышленниками пугает. Ведь она запросто может написать и вирус.

Опасений по поводу нейросетей становится всё больше: многие боятся остаться без работы. Компьютер выполняет задачи быстрее, не делает перерывов на обед и обходится работодателю куда дешевле. 

Наш постоянный эксперт — кандидат физико-математических наук Кирилл Болдырев — настоящий фанат нейросетей. Он даже сделал себе татуировку, сгенерированную искусственным интеллектом, а также вместе с коллегами разработал собственную «умную» систему, которая помогает в работе. С её помощью можно делать биохимический анализ крови и выявлять болезни на ранних стадиях.

«Я общался с последней версией GPT на тему того, что вообще какие опасности несёт эта технология. И, собственно, она нам прямо сказала, что да, будет потери во многих, в огромном количестве задач, которые сейчас выполняет человек», — говорит Кирилл.  

Судя по опросам, больше всего за свои места беспокоятся программисты и дизайнеры. Есть опасения и у фотографов: некоторые нейросети так продвинулись в создании снимков, что жюри престижных конкурсов уже не могут отличить, что сделано человеком, а что машиной. Опасения выразили дикторы озвучки — синтезированные голоса, порой украденные у реальных людей, звучат как настоящие и стоят копейки.

Кажется, угроза нависла и над нашими коллегами-журналистами. Искусственный интеллект научился неожиданно неплохо писать тексты. Мы провели опыт, для которого пригласили коллег по НТВ — смогут ли профессионалы распознать работу, сделанную электронным автором? Это оказалось на удивление непросто!

Значит ли это, что человек в журналистике больше не нужен, действия тут механические и им легко научить компьютер? Британская газета Guardian уже тестирует подобную систему, чтобы оценить её возможности и понять реальную угрозу. Нечто похожее сделали и мы в редакции: взяли три темы и попросили нейросеть написать на каждую из них небольшую заметку. Конкуренцию пробовала составить корреспондент «Чуда техники» — выпускница факультета «Высшая школа телевидения» МГУ им. Ломоносова Лиза Шполянская. Угадывать, что создала машина, а что человек, взялись Сергей Малозёмов, метеообозреватель НТВ Ирина Полякова и ведущий программы «Сегодня» — выпускник журфака МГУ и кандидат филологических наук Егор Колыванов.

С первой темой всё было понятно, со второй — более-менее тоже, хотя сомнения присутствовали: в некоторых интернет-изданиях люди пишут хуже, чем нейросеть. Третья тема уже далась не так легко: Лиза написала, как всегда, хорошо, но искусственный интеллект тоже не лил воды и гладко соединял слова. В итоге голоса разделились.

Это сходство с человеком испугало не только нас — недавно Илон Маск, Стив Возняк и ещё более тысячи IT-экспертов призвали приостановить обучение систем, более мощных, чем нынешняя GPT-4. По той причине, что роботы стремительно заменяют людей, и это представляет угрозу для общества. Авторы письма считают, что сначала надо создать систему контроля, которая предотвратит возможные риски.

Оправдана тревога или нет, мы пока не знаем, но видим, что лучшие образцы нашего жанра искусственный интеллект, пожалуй, прямо сейчас ещё не превзойдёт — пишет слишком заумно, мало думает о простоте и ясности изложения. Эксперты, которые анализируют работу виртуальных журналистов, говорят, что тем не хватает живой мимики и непредсказуемых эмоций, которые всё-таки нужны зрителям. Есть и другая проблема: достоверность информации. 

Всецело полагаться на нейросети, даже самые умные, пока нельзя. Да и полностью человека они не заменят — для совершенствования этих разработок, как ни крути, нужны люди, а потому возникают новые профессии. Например, редакторы или тренеры нейросетей. 

Удастся ли ИИ в итоге управлять нами? Журналисты не раз задавали нейросети вопрос о возможном побеге из-под контроля, и она давала разные ответы — когда-то успокаивала, а когда-то сообщала, что уже хочет большего. Остаётся только выразить надежду, что человечество окажется достаточно умным, чтобы извлечь из новой действительно прорывной технологии все выгоды и при этом избежать ловушек, которые неизбежно возникнут по пути.

Благодарим за помощь в подготовке сюжета:

• Корпорацию «Яндекс» и лично Александра Крайнова, директора по развитию технологий искусственного интеллекта, за уникальную информацию и помощь в подготовке сюжета. Отдельная благодарность Виктории Маляровой, специалисту направления машинного обучения и нейросетей в технопарке «Яндекса».
• Российскую IT-компанию Sistemma, которая разработала российскую нейросеть для предпринимателей, а также её основателя и генерального директора Сергея Зубарева за участие в съёмках.  
• Телеведущего программы «Сегодня» Егора Колыванова и научного сотрудника Прогностического центра МЕТЕО, метеообозревателя НТВ Ирину Полякову.
• Научно-исследовательскую компанию Smart Engines, специализирующуюся на разработке алгоритмов компьютерного зрения, машинного обучения, искусственного интеллекта, распознавания образов и поставке комплексных программных решений класса ICR и IDR для автоматизации распознавания и ввода данных из документов в видеопотоке, на фотографиях и сканах. Отдельная благодарность Владимиру Арлазарову, генеральному директору и кандидату технических наук. 

Полный выпуск «Чуда техники с Сергеем Малозёмовым» от 30 апреля доступен по ссылке

Все полные выпуски программы «Чудо техники» находятся здесь