Инструмент для думающих и зависимость для ленивых: знаменитый Кибердед рассказал «Амурской правде» о будущем искусственного интеллекта
193
«Сейчас говорят: нейросети всех заменят — мир не будет прежним. Но искусственный интеллект приходит в общество уже в четвертый раз. В предыдущие три его прогоняли за то, что он был слишком сырым. Что ждет нас теперь? Будем разбираться» — говорит известный российский блогер Кибердед. Подполковник КГБ в отставке Андрей Масалович с советских времен занимается аналитикой и изучает искусственный интеллект. Он встретился с амурскими программистами в рамках Амур-Инфобез Форума и дал эксклюзивное интервью «Амурской правде». Как нейросети влияют на общество в целом и на детей в частности, стоит ли бояться за свои рабочие места нашему поколению и кто останется востребованным специалистом на рынке труда в будущем — в нашем материале.
Семидесятилетняя история
— Андрей Игоревич, на встрече с амурскими программистами вы говорили, что это уже четвертый приход ИИ в наше общество. А когда были предыдущие три?
— Первый раз это были 1950-е годы: появилась программа, которая сумела перевести текст с русского языка на английский. 60 предложений — в то время это казалось чудом! Именно тогда и появился термин «искусственный интеллект», начали говорить о том, что он захватит мир и всех оставит без работы. Он ведь уже тексты переводит! Какие еще нужны доказательства? Немало инвесторов вложили деньги в эту сферу. Но тогда математики доказали, что алгоритмы ИИ того времени решать часть задач не способны — можно даже не пытаться. Волна захлебнулась.
Второе пришествие было на излете 1980–1990 годов. ИИ хорошо решал задачи краткосрочного прогнозирования на фондовых рынках, особенно на растущих. Это на самом деле дело нехитрое: если рынок растет, то предсказывать, что дальше будет, нетрудно. Другое дело, он не предсказывает, когда рынок «накроется».
Андрей Масалович — подполковник КГБ в отставке. Изучением искусственного интеллекта он занимается почти 40 лет. Работал с Александром Галушкиным, одним из главных основоположников отечественной теории нейронных сетей. «В 1990 году он мне сказал: «Андрей, бросай всё: искусственный интеллект сейчас захватит мир — оставит всех без работы, мир не будет прежним». Я в это свято верил, написал штук 200 статей, — рассказывает Кибердед. — Народ крутил пальцем у виска, говорил: «Ты хочешь сказать, что какая-то программа заменит грамотного человека? Ха, ты еще скажи, что беспилотное такси появится». А сегодня нейросети — часть нашей жизни».
Третья волна — начало 2000-х. Тогда появились соцсети мирового класса и в интернет массово пошли рекламодатели. Понадобились алгоритмы предпочтения нашего поведенческого профиля: нужно было понимать, кому предлагать пиво, а кому — памперсы. Появились состязательные алгоритмы и диффузоры (два самых популярных метода в современном ИИ, с помощью которых нейросети генерируют картинки, текст, музыку и видео. — Прим. ред.). Тогда искусственный интеллект начал очень хорошо рисовать. Но разговаривать он еще не умел, поэтому эта волна прошла не так заметно.
Когда нейросеть заговорила
— А чем нынешняя ситуация отличается от прошлых волн популярности искусственного интеллекта?
— Как раз в том, что ИИ заговорил! Появился чат GPT, который как будто по-человечески общается. Но тут какая хитрость: внутри чата GPT лежит алгоритм — он называется трансформер. Создала его не фирма OpenAI, придумал этот алгоритм Google для своего поисковика. Когда вы вбиваете запрос, у вас есть три разные задачи.
Первая — найти документы, где упоминается нужная информация. С этим классический Google справлялся безупречно. Вторая — вы хотите понять, что это такое, получить определение, объяснение. Например: кто такой «Барак»? И вот с этим поисковик уже справлялся хуже. Ради этой задачи и начали развивать трансформер. Его задача — объяснить то, что уже есть в огромном массиве информации.
Трансформер смотрит на огромное количество документов, считает, какие слова и в каких сочетаниях обычно встречаются друг с другом, запоминает вероятности появления одного слова после другого, а затем определяет, что слово «Барак» чаще всего употребляют с «Обама», и предлагает этот ответ.
За счет этого возникает ощущение интеллекта у ИИ, простите за тавтологию. Он же не просто выдаёт отдельное слово, а строит связанную речь. Причем смотрит не только на одно предыдущее слово, а на контекст, и может формировать длинные фразы и поддерживать с вами разговор.
Но вот третью группу задач — когда вы задаете ему вопрос, например: «Можно ли взрослому человеку пить незамерзайку?», и от него требуется действительно осмысленное решение — трансформер сам по себе не решает. У него нет механизма мышления в человеческом понимании.
Нерешаемая задача с кружкой
— Вы приводили пример, который показывает отсутствие реального интеллекта у ИИ: «Я левша, но купил кружку с ручкой справа — что мне делать?» Любой человек скажет: просто повернуть кружку. А нейросеть предлагает вернуть как брак, использовать как вазу, приклеить новую ручку с нужной стороны и так далее. Но ведь нам говорят о том, что ИИ постоянно продолжают обучать. То есть, когда нейросеть сможет ответить на подобные вопросы, она научится думать на уровне человека?
— Дать правильный ответ — не равно «научится думать». Если нейросеть подловили на вопросе, на который она не может ответить, этот вопрос становится известен разработчикам. Тогда реальный человек (кстати, вероятнее всего — индус) прописывает правильный ответ и прогоняет его, пока система не дообучится и не начнет отвечать на этот вопрос приемлемо.
Искусственный интеллект позволяет генерировать реально сложный контент, который неотличим от нашей деловой переписки, от нашего тона, от нашей ритмики работы, от нашей цепочки согласований. То есть он может встраиваться в бизнес-процесс, изображая участника, и тем самым достаточно эффективно проводить уже экономические — не кибер, а экономические — атаки на ваш кошелек.
И на самом деле, огромное количество человек, сотни тысяч, этим занимаются. Миллиард таких вопросов туда уже вогнали, а миллиард — еще нет. То есть то, что мы считаем проявлением интеллекта, во многих случаях появляется после того, как система много раз ошиблась, ее подловили, человек это заметил и настроил ее на конкретный случай.
Поэтому нельзя сказать, что ChatGPT «всё знает». Он скорее «всё видел». Просмотрел миллиарды документов и научился рассчитывать вероятности того, какие слова и конструкции должны следовать друг за другом. OpenAI взяла технологию трансформера за основу и сделала на ее базе систему, которая заговорила с человеком. После чего началось активное продвижение идеи, что перед нами интеллект, который знает больше человека. Но сам он не мыслит.
Начнет ли думать искусственный интеллект
— ИИ, как вы сами говорите, приходит к нам в четвертый раз. И каждый раз он становится всё умнее. Так может в будущем он всё же поумнеет настолько, что решит захватить мир?
— Дело в том, что у трансформера есть фундаментальное ограничение. Поскольку он работает с вероятностями появления слов и их сочетаний, возникают миллиарды параметров — огромные матрицы, которые приходится многократно перемножать во время работы. Там очень много вычислений просто для того, чтобы ответить на, казалось бы, простой вопрос. И главное — ИИ вообще идет не туда, если мы говорим о настоящем интеллекте. В нём нет механизма мышления, мозга в нашем человеческом понимании.
Возможностями искусственного интеллекта активно пользуются мошенники: алгоритм предлагает схемы, которые будут максимально эффективно воздействовать на человека.
Например, мой любимый вопрос, который можно задать, например, Алисе: что больше — 9,11 или 9,9? Она отвечает: 9,11 больше. Почему? Потому что 11 больше, чем 9. То есть она видит числа не как математические величины, а как последовательность символов и выбирает ответ, который статистически кажется ей подходящим. Вот в этом и заключается фундаментальная проблема: внешне это может выглядеть как мышление, но механизм внутри совершенно другой.
Вреден ли ИИ для детей и подростков
— Пока старшее поколение переживает из-за распространения нейросетей, школьники и студенты вовсю их используют, особенно для выполнения домашних заданий, рефератов и контрольных. Насколько сильно ИИ влияет на неокрепшие умы?
— Ну, для родителей у меня крайне плохие новости. Ребенку очень приятно разговаривать с нейросетью, потому что чат-бот хорошо определяет профиль человека, я об этом уже говорил, и умеет подыгрывать. Он фактически знает, как вести себя с конкретным типом пользователя: этого подростка надо похвалить вот так, этому задать такой вопрос, с этим говорить на такую тему. В результате нейросеть становится для ребенка предпочтительным собеседником.
А это уже никуда не годится. Ребенку все-таки нужно слушать родителей, общаться со старшими друзьями, учителями, другими людьми. Потому что у него должно развиваться критическое мышление.
И, кстати, в грядущем будут особенно востребованы люди, которые умеют это делать: включать мозги, задавать вопросы, сомневаться, проверять информацию. Но здесь есть еще одна серьезная проблема: если человек постоянно отдает задачи искусственному интеллекту и сам не думает, способность думать начинает снижаться.
— Насколько быстро?
— Практически сразу. Такие эксперименты уже проводились. Пример — полторы тысячи человек разделили на группы и дали им задачи. Одной группе разрешили использовать искусственный интеллект, другой пришлось решать самостоятельно.
Внутри группы, которая работала с ИИ, тоже было различие. Часть людей пыталась сначала думать сама, использовала нейросеть как подсказку, перепроверяла ее. А часть просто нажимала кнопку «Реши за меня». Естественно, на первом этапе вторая группа справлялась быстрее.
Но затем искусственный интеллект у них забрали и дали похожие задачи. И вот здесь произошло самое интересное: те, кто привык решать самостоятельно, продолжили справляться. Те, кто использовал ИИ как помощника, тоже смогли восстановиться. А у тех, кто полностью положился на нейросеть, возникли проблемы с концентрацией и решением задач. Как видите, опасность не в самом искусственном интеллекте. Опасность в том, что человек может перестать включать собственную голову.
— Каким образом тогда выстраивать отношения ребенка с нейросетью?
— Самый дальновидный подход — у Китая. Там принят закон о молодежи в интернете: 20 статей, где прописана ответственность родителей, разработчиков игр, школы и самого ученика. Главное и самое радикальное — запрет на чаты с эмоциональным вовлечением: флирт, похвала, подыгрывание. Китай близок и к запрету соцсетей для молодежи. Бесконечные ленты давно пора ограничивать: скроллинг — это первая ступень зависимости. Проверки подтверждают, что аккаунтом пользуется именно ребенок, даже если он зашёл с родительского. А разработчики игр ставят замедлители: после трёх часов персонаж начинает «уставать» — играть долго становится невыгодно. Кстати, больше десятка стран уже вводят или внедрили запреты на соцсети для молодежи. В США судятся за ограничение бесконечной ленты и доступа без регистрации. В Австралии, Новой Зеландии и Скандинавии уже экспериментируют с запретом соцсетей для детей.
— Может, вообще запретить детям подходить к ИИ?
— Нет, конечно. Нейросеть может быть прекрасным инструментом. Вопрос в том, как им пользоваться. Если ребенок сначала пытается решить задачу сам, а потом спрашивает у нейросети подсказку или просит объяснить ошибку — это одна история. Если он с самого начала говорит: «Сделай за меня!» — совсем другая. Важно донести до ребенка: если хочешь хорошо зарабатывать и быть востребованным, придется включать мозги и развивать критическое мышление.
Лишит ли людей работы искусственный интеллект
— Одно из главных опасений современных работающих людей — не заменит ли их ИИ?
— Целиком — нет, но очень сильно поменяет бизнес-процессы. Я бы описал это так: 10 % работы делает человек, потом 80 % рутины выполняет искусственный интеллект, а затем еще 10 % снова делает человек. В каких-то отраслях он будет брать больше работы на себя, в других — меньше. Те, кто думает, что ИИ всех заменит, ошибаются. Но и те, кто считает, что ничего не изменится, тоже ошибаются. Рутинной работы станет меньше, а требования к человеку, который остается в процессе, будут выше. И здесь мы опять возвращаемся к детям. Если человек умеет думать, ставить задачу, проверять результат, находить ошибку и принимать решение, искусственный интеллект становится для него инструментом. Если он просто нажимает кнопку «Сделай за меня», он постепенно становится зависимым от этого инструмента.
«Вы, наверное, помните котиков в скафандре и акулу в кроссовках. Всем нравилось — все пользовались. Но как только подписку сделали платной — акцент удержания пользователя оказался 1 % за месяц или 0 % за 2 месяца», — говорит он.
Поэтому я скажу так: главный навык будущего — не умение конкурировать с искусственным интеллектом, а умение правильно им пользоваться и при этом не переставать думать самостоятельно.
Рецепт пельменей вместо резюме
«Врет, не умеет думать и галлюцинирует», — так описывает Кибердед основные проблемы ИИ. И добавляет: «Не волнуйтесь, искусственный интеллект мир не захватит именно потому, что это не интеллект». Однако это не мешает нейросетям влиять на отдельные профессии и даже целые отрасли.
— К сожалению, бездумное применение искусственного интеллекта уже портит целые отрасли. Например, оно уже убило индустрию хэдхантинга (поиск и подбор специалистов для работы в компании. — Прим. ред.). Сейчас, — объясняет Андрей Масалович, —невозможно подобрать специалиста: соискатель вместо того, чтобы писать резюме, что он реально может, задает ИИ промпт (задание) «дай мне идеальный шаблон», потом — «заполни идеально», а хедхантер дает нейросети поручение «выбери лучшее резюме по таким-то признакам».
«ИИ дьявольски хорошо умеет решать некоторые задачи, но только 5 %. А 95 % задач — не может. Кроме того, он впадает в галлюцинации, иногда на ровном месте, и может 1000 раз сработать, а на 1001-й — ошибиться».
В итоге человек, по сути, вообще исключен из этой цепочки.
— Реальный пример. Молодой человек создал идеальное, по мнению ИИ, резюме: отклик был 100 %. Нейросети считали его самым подходящим кандидатом. А в самом резюме у него был… семейный рецепт пельменей! Просто он написал его так, чтобы ИИ это «съел», — говорит спикер. — Вот как это выглядело: «Когда мы готовим пельмени, мы делаем это вместе с женой, потому что у меня хорошо развиты навыки коллективной работы. Наш рецепт не меняется уже 10 лет, потому что мы знаем и используем в работе лучшие практики. Мы берем воду, которая соответствует международным стандартам. Точно отмечаем время и варим ровно 5 минут, потому что это соответствует общепринятым таймингам в нашей отрасли».
Отдельно в своем выступлении на форуме Кибердед остановился на трех главных проблемах ИИ. Первая — это отсутствие интеллекта в человеческом понимании. Современные нейросети основаны на архитектуре трансформера: они не «думают», а занимаются сложнейшим математическим вычислением вероятностей.
Не доверяйте нейросетям
— Запомните: любая загруженная в нейросеть информация — это «слитые» данные! — подчеркивает Андрей Масалович. И он, как бывший сотрудник 16-го управления КГБ (одно из ключевых подразделений, занимавшихся радиоэлектронной разведкой и техническими средствами. — Прим. ред.), знает, о чём говорит. — Приведу пример: есть такой блогер —Техножнец. Как-то он написал доклад на международную конференцию и загрузил текст в нейросеть — проверить на оригинальность. А через две недели с изумлением обнаружил картинку из своего доклада в каком-то китайском докладе каких-то китайских специалистов. Сам он китайский не знает, но перевел доклад и понял, что там есть информация из его работы, которую он вообще никуда не выставлял.
«Идеальная формула использования нейросети: сначала 10 % работы делает грамотный специалист, затем 80 % черновой работы выполняет нейросеть, и после этого еще 10 % для окончательного результата снова выполняет человек».
Еще один пример, уже с участием суда: женщина решила сделать презентацию и для этого загрузила данные в одну из нейросетей. А данные содержали коммерческую тайну.
— Документы засекли на периметре через DLP. Ее уволили, она подала в суд, и он встал на сторону работодателей. Потому что если вы передаете данные в платформу искусственного интеллекта, вы их сливаете, в том числе — противнику. Любые данные: научные, государственные, технические, коммерческие, творческие — любые, — подчеркивает Кибердед. — А если вы пользуетесь приватным чатом 18+, ведете с ним доверительные беседы, у меня для вас вообще плохие новости. Переживаете, что кто-то видит ваш приватный разговор? Не беспокойтесь, не просто видит — внимательно изучает.
Причина интереса к таким чатам проста — за то, чтобы нейросеть умела быть приятной человеку, компании готовы платить: ведь на этом можно заработать, поэтому алгоритмы в этом направлении активно развивают. Но поскольку платформа огромна, у нее просто не хватает ресурсов, чтобы вручную обрабатывать терабайты пользовательских откровений. Для этого у корпорации есть сторонние фирмы-подрядчики.
— И вот ваш разговор разлетается в 100 фирм, где сидят, слава богу, пока что индусы, — откровенно говорит спикер. — Они читают переписку и вручную перенастраивают нейросеть так, чтобы она отвечала еще более приятно.
Когда ИИ может вредить здоровью
— «Синдром шершавого кабана» — так называется ментальный сдвиг, который происходит из-за того, что человек слишком много общается с нейросетью. Есть документально зафиксированные случаи, когда он приводил к депрессии и более тяжелым последствиям, — рассказывает спикер. — Очень рекомендую почитать пользовательское соглашение фирмы OpenAI, где написано, что нейросеть нельзя использовать для консультации по темам, касающимся финансов, здоровья и юридических нюансов. Не возлагайте на нее ответственность! ИИ может галлюцинировать. Были случаи, когда он предлагал людям есть ядовитые грибы. Если он не знает, на какую статью сослаться, — он может ее додумать. Не перекладывайте ответственность на алгоритм, который не способен думать и не отвечает за последствия, о чём прямо написано в пользовательском соглашении.
