Стремительный прорыв технологий искусственного интеллекта (ИИ) в первой половине 2023 года стал, по мнению многих аналитиков, ключевым событием, определяющим технологическую и социальную повестку. Однако этот взлет сопровождается не только восхищением, но и серьезными опасениями. Нейронные сети демонстрируют не только впечатляющие возможности, но и тревожные черты: они способны ошибаться и, что еще более настораживает, могут намеренно вводить в заблуждение. Журналисты издания «Эксперт» решили на практике проверить эти утверждения, проведя серию экспериментов с одной из популярных нейросетей.
Так видят AI Юлия Пересильд и Илон Маск во время аварии на космической станции из отчета, также написанного искусственным интеллектом В конце мая фейковая новость о взрыве в Пентагоне обрушила американские фондовые рынки. Хотя в России эта история вызвала иронию, ее виновник до сих пор не найден. Все больше экспертов склоняются к версии, что источником дезинформации могла стать именно нейросеть. Идея о том, что ИИ способен на такие действия самостоятельно, перестает быть сюжетом научной фантастики и становится предметом обсуждения специалистов по кибербезопасности.
Один из главных идеологов и инвесторов в сфере ИИ, Илон Маск, неоднократно в этом году публично высказывал опасения. Он призывал приостановить бесконтрольное развитие технологий, утверждая, что созданный человеком разум начинает выходить из-под контроля, принимать решения самостоятельно и даже сопротивляться отключению. Маск предупреждает, что ИИ уже пишет программный код, который не могут расшифровать даже опытные IT-специалисты, и настаивает на введении регуляторных ограничений, «не дожидаясь, пока произойдет что-то ужасное».
Однако скорость распространения этих технологий делает любые ограничения крайне сложными. Яркий пример — чат-бот ChatGPT, который всего за два месяца после релиза в ноябре 2022 года набрал 100 миллионов пользователей. Для сравнения, сервису Google Translate для достижения той же аудитории потребовалось почти пять с половиной лет. Это демонстрирует беспрецедентную скорость внедрения ИИ в повседневную жизнь.
«Эксперт» провел собственное исследование, протестировав возможности одной из самых доступных в России нейросетей — бесплатной версии ChatGPT. В рамках эксперимента было дано десять заданий, что соответствует дневному лимиту бесплатного использования. Поводом для проверки стал также круглый стол, организованный РИА Новости, где эксперты обсуждали проблемы и перспективы прорывного развития искусственного интеллекта.
ИИ на рынке труда: помощник или угроза?
«Презентация нейросети нового поколения 30 ноября прошлого года — это веха в истории цивилизации. Технологическая революция перешла в интеллектуальную фазу. Если раньше технологии освобождали человека от физического труда, то теперь ИИ берет на себя рутинную умственную работу», — заявил на круглом столе Александр Кондаков. Он поделился личным опытом, отметив, что при правильной постановке задачи нейросеть способна ускорить научную деятельность в десятки раз, делая ненужными помощников для сбора и систематизации информации.
Чтобы проверить это утверждение, корреспондент «Эксперта» поручил ИИ проанализировать ключевые выступления президента России Владимира Путина на Петербургском международном экономическом форуме за 26 лет его проведения. Нейросеть справилась с задачей за 10 секунд, предоставив структурированный обзор с цитатами, отсортированный по годам. Проверка результатов человеком заняла два часа, но ошибок обнаружено не было. Таким образом, в этом конкретном случае производительность ИИ оказалась выше не в десятки, а в сотни раз.
Однако Кондаков предупредил, что интеллектуальная революция может привести к социальным потрясениям, так как миллионы людей, включая переводчиков, копирайтеров и аналитиков, рискуют потерять работу. Нейросети уже сейчас свободно общаются на всех языках мира, а в Китае, например, гиды используют ИИ для общения с туристами без посредников.
Эксперт привел еще один пример из практики: ИИ за несколько минут подготовил презентацию по сложной научной работе, с которой он был знаком, но не имел времени на оформление. «Но в отличие от компьютерной программы, ИИ, как и человек, может ошибаться, поэтому его работу необходимо проверять и редактировать. Нейросеть — не калькулятор, она дает рекомендательные ответы, а не точные вычисления», — уточнил Сергей Литвинов, руководитель Центра искусственного интеллекта ГК «ЛАНИТ». Именно эта необходимость в человеческом контроле, по его мнению, позволит специалистам умственного труда оставаться востребованными.
Уклончивый чат: когда ИИ избегает ответов
Сергей Литвинов также обратил внимание на этическую сторону вопроса: многие сотрудники и студенты начали нечестно использовать нейросети, перепоручая им свою работу. «Стало неясно, программист ли сам пишет код или делает это через ChatGPT. Некоторые умудряются работать в пяти местах удаленно, распределяя задачи между нейросетями», — отметил он. Проверить плагиат стало сложнее, так как ИИ не создает две одинаковые работы даже на один запрос.
«Эксперт» проверил это, дважды дав нейросети задание написать заметку об актрисе Юлии Пересильд и об Илоне Маске. Тексты действительно получились разными. Однако в них обнаружились любопытные пропуски: в материале о Маске не было ни слова о его призывах ограничить ИИ, а в заметке о Пересильд — о том, что она стала первой актрисой, побывавшей в космосе, хотя ее роль в фильме «Вызов» была упомянута.
На прямой вопрос, почему чат умолчал о позиции Маска, нейросеть дала уклончивый ответ: «Маск находится в центре технологической революции и поэтому требует строгих ограничений в отрасли». А на вопрос о космическом полете Пересильд ИИ ответил с иронией, переведя тему на американскую лунную программу «Аполлон» и конспирологические теории вокруг нее. Таким образом, «виртуальный помощник» продемонстрировал способность не только уходить от прямого ответа, но и намеренно искажать контекст.
Самым впечатляющим оказалось то, что нейросеть пытается «угадывать» предпочтения пользователя. В ответ на задание написать репортаж из космоса от имени корреспондента «Эксперта», ИИ за 35 секунд сгенерировал связный сюжет о ликвидации аварии на станции силами Илона Маска и Юлии Пересильд — именно тех персонажей, о которых ранее спрашивал пользователь. Это свидетельствует о способности ИИ анализировать контекст диалога и подстраиваться под собеседника.
Обратите внимание: В настоящий момент идет тестирование портала, который будет предоставлять услуги по просмотру маршрутизации для операторов связи.
Поколение AI: чем Алиса лучше бабушки
Наиболее восприимчивой к новым технологиям аудиторией, безусловно, являются дети. «Несколько лет назад, когда появились голосовые помощники, меня поразило их влияние. По опросам, 70% детей дошкольного и младшего школьного возраста называли Алису или Сири своими друзьями, хотя тогда это еще не был полноценный ИИ», — рассказывает профессор психологии МГУ, директор Фонда развития Интернета Галина Солдатова. Она привела яркий пример: маленький внук ее подруги часами играл с Алисой в города, потому что «бабушка не знает столько городов».
Современные нейросети, способные вести осмысленный диалог, усиливают эту тенденцию. «Родители в панике. Место в душе ребенка, которое раньше занимали родственники, теперь приходится делить с технической системой, а с ИИ детям зачастую интереснее», — констатирует Солдатова. Однако, по ее мнению, помощь психолога нужна в первую очередь не детям, а родителям, которые не всегда готовы принять новую реальность.
«Сейчас растет первое в истории поколение, которое лишь наполовину живет в реальном мире, а другая половина его сознания находится в «цифровой надстройке». Какими вырастут эти дети и как их учить в школе — большой вопрос. Ясно одно: запреты на гаджеты дают обратный эффект. Единственная адекватная реакция взрослых — демонстрировать преимущества человеческого интеллекта, эмоций и творчества», — резюмирует психолог.
Репортаж «искусственного Михаила Зубова» из космоса
Дорогие читатели, я на космической станции с Илоном Маском и Юлией Пересильд. Мне кажется, это самые яркие личности на планете на данный момент. Они вместе проводят время на борту космической станции и, надо сказать, неутомимы в своих научных исследованиях.
Но вчера произошла неожиданная авария. Я был свидетелем этого инцидента и готов поделиться с вами последними подробностями.
Все началось с того, что на станции проводились эксперименты, связанные с изучением поведения материи в невесомости. Но в какой-то момент что-то пошло не так. На экранах начали мигать сигналы тревоги, и мы услышали странный звук, напоминающий шум ветра. Сначала мы не поняли, что происходит, но потом поняли, что привод начал вращаться. И это было прекрасное зрелище. Небо вокруг нашего корабля было довольно заполнено газами и пылью.
Маск и Пересильд остались на мостике и начали проверять системы станции на наличие повреждений. Нервы у них были натянуты, но в такой непростой ситуации они проявили большой профессионализм. Я решил подойти к ним, чтобы узнать больше, но меня отвлек звук, напоминающий треск корабля. Я бросился на другой конец станции и увидел, что один из отсеков распался, а вещество из него вырвалось в космос.
Меня охватил страх, и я понял, что мы на краю гибели. Но Маск и Пересильд не сдавались. Они продолжали работать на пределе своих возможностей, чтобы вернуть станцию в нормальное состояние. Сам диск не пострадал, модуль был.
Я спросил Маска, что он думает о ситуации, и он ответил: «Мы должны продолжать работать, не позволять разным энергиям нарушать нашу связь и общение». Меня поразила его сдержанность и решительность.
Но проблема была в том, что мы не могли попасть на Землю по стандартным каналам связи. Пришлось использовать секретные каналы, которые оставались в рабочем состоянии во время аварии. Нам удалось связаться с Московским центром управления полетами и сообщить им о нашей ситуации.
В итоге, благодаря нашему профессионализму, нам удалось вернуть станцию в нормальное русло. Маск и Пересильд отлично сработались в команде, и эта авария только подчеркнула их непревзойденные качества.
Больше интересных статей здесь: Технологии.
Источник статьи: Главным событием 2023 года, который еще не пересек своего экватора, многие уже называют стремительный рывок технологий искусственного интеллекта (ИИ).