Найти ответ на любой вопрос: история Stack Overflow
За 15 лет платформа помогла разработчикам более 50 млрд раз. Но нужна ли она сейчас, когда то же самое может делать ChatGPT?
Stack Overflow — популярная платформа для профессиональных программистов и энтузиастов. На ней можно задавать вопросы и оставлять ответы из сферы разработки. Ежемесячно платформа обслуживает более 100 млн человек. Одни считают, что это очень удобно — иметь под рукой такого помощника; другие — что те, кто не умеет решать проблемы без Stack Overflow, недостаточно компетентны.
В этом материале разбираем, как платформа получила свою популярность, правда ли она способна помочь с чем угодно и можем ли говорить, что с приходом ИИ ее ожидает упадок.
Как создавали Stack Overflow
Платформу Stack Overflow создали американские программисты Джефф Этвуд и Джоэл Спольски в 2008 году. Это частный веб-сайт в сети Stack Exchange Network, на котором находятся вопросы и ответы широкого спектра тем, связанных с программированием.
Сама платформа позиционирует себя как предоставление миру возможностей для развития технологий с помощью коллективных знаний .
На момент создания платформы подобные сайты уже существовали. Например, запущенный в 1996 году форум для программистов Expert Exchange. Более того: когда Джефф Этвуд в своем блоге презентовал новый проект, некоторые комментаторы сомневались в успехе стартапа, ведь подобные платформы уже существовали на то время. Например, пользователь, зарегистрированный как Larry_Bank, в частности отмечал:
«Есть много отличных бесплатных форумов, где программисты общаются и помогают друг другу. Вашей идее не хватает стимула. Зачем эксперту тратить свое драгоценное время на обучение новичков?»
Тем не менее стимул нашелся и уже через два года после запуска платформы, а именно в декабре 2010-го количество уникальных посетителей сайта Stack Overflow составило 18 миллионов человек. А по состоянию на май 2017 года сайт занимает 53 место по посещаемости в мире по рейтингу Alexa Interne.
Сам Джефф Этвуд даже ставил Stack Overflow в антипод ExchangeExpert, отмечая, что новая платформа значительно более открыта и представляет собой «Wikipedia, встретившую Reddit». На платформе пользователи могут задавать вопросы и оставлять ответы для других пользователей, оценивать вопросы и ответы как полезные или бесполезные.
Кроме того, пользователи сайта могут получать баллы авторитета и награды, в зависимости от полезности их вклада, и даже заслужить привилегии: возможность голосовать, комментировать и даже редактировать сообщения других.
Stack Overflow принимает вопросы только на тему программирования, сфокусированные на конкретных проблемах. Вопросы на более широкие темы или те, ответы на которые — это личное мнение человека, обычно не публикуются или же удаляются.
После запуска Stack Overflow в 2009 году Этвуд и Спольски запустили дополнительные сайты по образцу созданной платформы. Сейчас сеть Stack Exchange включает в себя несколько продуктов, таких как Stack Overflow for Teams, Stack Overflow Advertising, Collectives™ on Stack Overflow, Stack Overflow Talent. В 2012 году Джефф Этвуд покинул компанию, чтобы иметь возможность проводить больше времени с семьей.
В 2021 году стало известно, что Stack Overflow купила компания Prosus, которая инвестирует в онлайн-платформы и финтех-компании. Сумма сделки составила $ 1,8 млрд.
Согласно статистике Stack Overflow, по состоянию на сейчас платформа обслуживает более 100 миллионов человек ежемесячно. С 2008 года платформа помогла разработчикам более 50,6 миллиардов раз. Среднее время между вопросами составляет 13,6 секунды .
Для сравнения: упоминавшийся выше форум Expert Exchange, существующий до сих пор, сообщает о 4,3 млн вопросов, на которые отвечают эксперты за все годы существования платформы.
Скриншот сайта Stack Overflow
При этом на русскоязычной версии сайта Stack Overflow указано, что сейчас почти 149 тысяч вопросов на платформе остались без ответа или же за ответ не было отдано голоса. Украиноязычной версии платформы не существует. Сайт Stack Overflow, кроме английского и русского, доступен также на португальском, японском и испанском языках.
Используют ли платформу украинские программисты?
Ежегодно платформа проводит опрос для разработчиков, выясняя наиболее популярный язык программирования, уровень зарплат, методы обучения и тому подобное. В 2022 году в опросе Stack Overflow приняли участие более 70 тысяч специалистов со всего мира. Больше всего — программисты из США, Индии и Германии. Из Украины только 593 разработчика или 0,83 % приняли участие в опросе.
Страны, принявшие участие в опросе Stack Overflow в 2022 году. Скриншот с сайта компании
Примечательно, что в опросе Stack Overflow в этом году выросло как общее количество респондентов (а именно 90 тысяч специалистов), так и количество украинских разработчиков, принявших участие в опросе.
Страны, принявшие участие в опросе Stack Overflow в 2023 году. Скриншот с сайта компании
Мы расспросили украинских айтишников, как они используют платформу в своей работе и в чем ее ограничения.
Например, Java-евангелист Сергей Моренец, который в ІТ уже 23 года, активно использует платформу: ищет информацию, а также и сам комментирует те вопросы, в которых является компетентным:
«Я довольно часто ищу ответы на Stack Overflow, когда сам не могу найти решение проблемы. Есть два источника технической информации: это документация, которая есть на официальных сайтах, спецификация и так далее. Это наиболее точная и актуальная информация. Но там нет ответов на вопрос: что делать, если что-то не работает. Источник такой информации — это как раз Stack Overflow и другие подобные сайты. Stack Overflow — это энциклопедия решений для различных проблем».
Сергей Моренец отмечает, что на платформе несложно создать вопрос, который вас беспокоит, и быстро получить на него ответ. Хотя формулировать вопросы необходимо грамотно и точно:
«В Stack Overflow предусмотрена такая функция, как теги, с помощью которых вопросы поступают к ответственным лицам. Они довольно быстро отвечают, если знают, в чем проблема. Тег обычно содержит название технологии (языка программирования, библиотеки, фреймворка)».
По мнению Сергея Моренца, Stack Overflow — платформа, которая может быть полезной и опытным разработчикам, и новичкам. Новички смогут найти ответы на свои вопросы, а их опытные коллеги — уточнить ответ/решение, сделать его более информативным. Часто бывает так, что самый правильный ответ устаревает со временем, и тогда их также редактируют и дают более актуальную информацию.
При этом Team Lead международной компании Erbis Виталий Зборовский в комментарии по использованию платформы Stack Overflow подчеркивает: не надо выключать голову и сразу идти на Stack Overflow, ожидая, что кто-то сделает работу за тебя:
«Я время от времени использую Stack Overflow. По вопросам, касающимся основной моей специализации. Имея хорошие знания языка программирования, библиотек, фреймворков, я трачу меньше времени, чтобы решить поставленную задачу. И могу увидеть лучшее решение. Если же я считаю, что зачем что-то запоминать, если это можно найти, то впереди меня ждет увлекательный путь проб и ошибок, который завершится, как только найдется просто рабочий вариант. К тому же не всегда лучший. Это майндсет охотника, а не инженера. Проблема не в инструментах, а в людях, которые используют их не по назначению».
Виталий Зборовский считает, что на данный момент Stack Overflow зарегулирован, а ответа на поставленный вопрос можно ждать долго или вовсе не дождаться.
На портале IТ-сообщества DOU Senior Golang Developer в DocHQ Ярослав Характерник в мае написал блог о необходимости украинским IТ-специалистам участвовать в ежегодных опросах Stack Overflow. По мнению разработчика, в Украине достаточно специалистов, но это слабо отражено в мировых рейтингах.
Мы пообщались с Ярославом Характерником. По его словам, результаты опросов Stack Overflow обсуждают англоязычные блогеры, поэтому «если Украина будет в ТОП-5, а это возможно, то украинское сообщество от этого выиграет».
Специалист редко, но и сам может прокомментировать какую-то тему на платформе Stack Overflow. На комментарий тратит где-то 5–10 минут. «Я придирчиво пишу комментарии, отзывы и статьи», — добавляет разработчик.
Stack Overflow vs. ChatGPT
27 июля в Telegram-канале «Технології, медіа та суспільство» инвестиционный аналитик Андрей Бродецкий опубликовал пост о падении трафика платформы Stack Overflow на 35 % за прошлый и первое полугодие текущего года. Наибольший спад приходится на конец 2022-го.
График падения трафика Stack Overflow. Источник: страница аналитики сайта
Аналитик связал это с запуском ChatGPT — чат-бота с искусственным интеллектом, который коммуницирует с пользователями, отвечая на вопросы в диалоговом режиме.
Чат-бот запустили 30 ноября прошлого года. А уже 6 декабря 2022 года стало известно, что платформа Stack Overflow запретила использование ChatGPT на сайте, пишет портал DOU со ссылкой на The Verge. Причиной стало то, что ChatGPT наполняет сайт ответами, которые кажутся правильными на первый взгляд, но часто при детальном рассмотрении содержат много ошибок.
«Основная проблема заключается в том, что, хотя ответы, которые создает ChatGPT, имеют высокий уровень неправильности, они обычно выглядят так, будто они могут быть хорошими, и ответы очень легко получить», — написали тогда модераторы.
А недавно вывод об ошибках в ответах, предоставленных чат-ботом, подтвердили в американском исследовательском университете Пердью, сообщает Highload со ссылкой на PC.mag. Так, в рамках исследования ChatGPT давал ответы на 517 различных вопросов от Stack Overflow. В результате 52 % ответов ChatGPT содержат неточности, а 77 % — многословны . В то же время 54 % ошибок, сделанных чат-ботом, связаны с тем, что он не понимает сути вопросов.
При этом 27 июля 2023 года Stack Overflow объявил о запуске новых функций, работающих на искусственном интеллекте OverflowAI. Из презентации известно, что компания планирует собрать знания из 58 миллионов вопросов и ответов сообщества.
Разработчик Сергей Моренец подчеркивает, что за искусственным интеллектом будущее. В то же время по состоянию на сейчас ChatGPT не может заменить Stack Overflow, потому что он предоставляет много неточных ответов на технические вопросы:
«Преимущество Stack Overflow в том, что на платформе есть модераторы, которые контролируют корректность ответов. Во-вторых, там есть система оценивания ответов, что также влияет на качество. А ChatGPT, по сути, просто предлагает доверять ему. В то же время преимущество ChatGPT в том, что ему можно задать любой вопрос, а Stack Overflow помогает только с конкретными».
Если подытожить, и Stack Overflow, и ChatGPT, и другие платформы — это лишь инструменты, которые могут помочь разработчику, но не способны полностью заменить знания, необходимые в сфере IT. Только постоянное обучение и саморазвитие могут быть основой для построения успешной карьеры.
Падение Stack Overflow: что случилось
В ночь с четверга на пятницу ресурс Stack Overflow был недоступен. Через какое-то время работа была восстановлена, однако, в пятницу утром сайт снова «упал».
В SO отмечают, что отказ вызвала серия неполадок, проявившихся одновременно. Система не справилась с растущим числом подключений. Сейчас сайт работает в штатном режиме.
Под катом расскажем о причинах, вызывавших сбой.
/ фото Hamza Butt CC
Stack Overflow работает на 9 веб-серверах, каждый из которых обрабатывает от 200 до 500 запросов в секунду. Как отмечает Architecture Lead платформы Stack Overflow Ник Кравер (Nick Craver), в пятницу проблема затронула два сервера: ny-web01 и ny-web04, которые начали «бомбардировать» базу данных Stack Overflow огромным количеством запросов. Это привело к истощению пула потоков IIS и увеличению времени ожидания обработки запросов от БД.
Получилось так, что новые запросы ждали ответ от пула потоков, при этом не давая завершиться старым. Произошел deadlock. По словам Ника, ограничение трафика в теории решило бы проблему, однако этого не произошло из-за ошибки в работе балансировщика нагрузки.
Проблема с балансировщиком нагрузки
В идеале HAProxy должен был отключить два «проблемных» сервера автоматически и до того, как потребовалось вмешательство администратора. Но ASP.NET в Stack Overflow выполнял редирект с домашней страницы на /error, а HAProxy получал обратно код ответа 302, который интерпретировал как «успех». Поэтому попыток отключить серверы не предпринимал.
Ник Кравер отмечает, что у них уже есть решение для этой проблемы. Команда сделает так, что HAProxy будет ожидать лишь определенные статус-коды и перестанет перенаправлять пользователей с домашней страницы. Ник реализовал эту функцию уже довольно давно, однако она не была добавлена в продакшн. Теперь её внедрение назначено на следующую неделю.
Ник отмечает, что команда до сих пор не смогла точно установить причину, которая привела к росту числа SQL-запросов (в треде на SO он опубликовал график — на нем видны большие всплески активности). SO работают над этим и планируют держать резидентов платформы в курсе.
Прошлые отключения
Отметим, что «падения» Stack Overflow случались и в прошлом — было отключение в 2014 году. Однако тогда проблему вызвала массированная DDoS-атака на провайдера сетевых услуг, с которым сотрудничает платформа. В тот раз проблему удалось решить за час.
Disclaimer: по мере появления новой информации относительно «падения» SO — аналитики, решений по части ИТ-инфраструктуры или ИБ — мы будем дополнять этот материал.
P.S. О чем мы пишем в Первом блоге о корпоративном IaaS:
- Организация блокчейн на VMware vSphere: от теории к практике
- Как IaaS помогает сервисам доставки: опыт российских и зарубежных компаний
- IaaS в автомобильной отрасли: кейсы использования
- Первые шаги после аренды облачной инфраструктуры
- Построение аттестуемых и защищенных инфраструктур на базе решений VMware
Как находить кандидатов на Stack Overflow
Мы поговорили про сорсинг на Stack Overflow с Русланом Сарваровым из компании Evrone.
Руслан рассказал, чем Q&A-сервис для разработчиков полезен рекрутерам, как вести внутренний и внешний поиск кандидатов, а также объяснил, как составлять SQL-запросы к базе данных пользователей, если не знаешь SQL.
Руслан Сарваров, Recruitment Lead в Evrone, автор канала SR4HR
Что такое Stack Overflow и кого там искать
Stack Overflow — это Q&A-сервис для айтишников, где одни люди задают вопросы, а другие отвечают. По сути, это огромная база знаний, с помощью которой IT-специалисты решают свои боевые задачи.
Аудитория сайта насчитывает свыше 100 миллионов человек со всего мира. Среди пользователей не только разработчики, а все, кто пишет код, в том числе ML-инженеры и автотестировщики.
Особенности сервиса
Легче оценить экспертность кандидата
Если зайти в профиль пользователя на GitHub, то можно посмотреть написанный им код и понять, какие языки программирования он знает. Но зачастую рекрутеры недостаточно глубоко разбираются в коде — им сложно определить, чем конкретно занимается кандидат и в чем он эксперт.
Эту задачу легче решить на Stack Overflow: здесь можно почитать ветки по вопросам, в обсуждениях которых участвует пользователь. Это позволяет более детально проанализировать его опыт, понять интересы и проблемы.
Сложно искать информацию о кандидате
В целом это сервис, где айтишники могут обмениваться знаниями и опытом, не подвергаясь атакам рекрутеров. Именно поэтому внутренний поиск Stack Overflow ориентирован на сбор информации по конкретным темам, а не на сканирование профилей пользователей. К счастью, эти ограничения можно обойти — еще расскажу как.
Еще недавно на Stack Overflow были инструменты для работодателей:
- Jobs — можно было публиковать вакансии, разбирать отклики и писать кандидатам;
- Salary Calculator — калькулятор зарплат и аналитика вилок по каждому стеку технологий;
- Developer Story — резюме в профиле пользователя.
Ни один из этих продуктов больше не работает: создатели Stack Overflow решили, что не стоит превращать сервис в очередной джоб-сайт.
Stack Overflow — не основной, а дополнительный канал поиска
У вас не получится отправить пользователю личное сообщение внутри сервиса: такой функции нет. Скорее всего, вы не сможете понять, открыт ли кандидат к предложениям — если только он сам не напишет об этом в профиле.
Типичный сценарий использования сервиса: нашли кандидата на LinkedIn или GitHub, а потом перешли в его аккаунт на Stack Overflow, чтобы оценить опыт и понять, за что стоит зацепиться на интервью. Или наоборот: встретили подходящего специалиста на Stack Overflow, а потом нашли его аккаунты в других соцсетях и платформах.
X-ray-поиск по Developer Story
Раньше внутри профиля пользователя был специальный раздел Developer Story. Он выглядел как полноценное резюме с контактными данными и информацией о предыдущих местах работы и образовании:
Сейчас все эти страницы недоступны, но благодаря кэшу гугла их можно просматривать. Например, найдем резюме golang-разработчиков, которые в своих навыках указали Kubernetes. Запрос будет таким:
site:stackoverflow.com/cv (“golang * “|“go * “) “kubernetes“
Раньше Developer Story (резюме) хранились по адресу stackoverflow.com/cv. А с помощью символа * мы сообщаем гуглу о том, что после ключевого слова может идти какой угодно текст.
В результате мы получаем поисковую выдачу. Но при попытке перейти по любой ссылке система сообщает, что Page not found. К счастью, все удаленные страницы еще хранятся в памяти гугла: чтобы открыть страницу, нажмите на значок с треугольником и кликните по ссылке «Сохраненная копия»:
В основном таким Х-ray-запросом я находил резюме разработчиков уровня «сениор» и выше — с опытом от 3 до 5 лет в определенном стеке. Реже встречаются джуны и мидлы.
Чтобы сохранить поисковую выдачу, советую использовать расширение Instant Data Scrapper. Оно сформирует таблицу, где будут ссылки на кэшированные страницы:
X-ray-поиск по профилям пользователей
Профили всех пользователей хранятся по адресу stackoverflow.com/users. Причем помимо глобального Stack Overflow есть русскоязычный сегмент — он находится на поддомене ru.stackoverflow.com.
Искать только по русскоязычным пользователям можно двумя способами:
Поиск по поддомену ru позволяет сузить выдачу. Например, если написать site:ru.stackoverflow.com/users ios swift, то гугл покажет около 200 профилей, а по запросу site:stackoverflow.com/users ios swift Russia — более 500.
Далеко не во всех профилях есть контакты. Но можно поискать среди пользователей, которые указали свой LinkedIn: cсылка будет в блоке About или в информации под фото. Составляем запрос:
site:stackoverflow.com/users ios|swift “linkedin.com/in/ *“ Russia
Stack Overflow — это не джоб-сайт, поэтому большинство пользователей не ищут работу. Но те, кто открыт к предложениям, иногда используют фразу looking for — за это можно зацепиться в запросе:
site:stackoverflow.com/users “Data Science“ “looking for“
Поиск через Stack Exchange Data Explorer
Stack Exchange Data Explorer — это сервис для поиска по базе пользователей Stack Overflow с помощью SQL-запросов. Если вы не знаете язык SQL, не беда, есть инструменты, которые помогут сформировать нужный запрос.
Генератор SQL-запросов
Этот сервис создает запрос под ваши требования. Можно задать местоположение и скиллы, выбрать обладателей конкретных бейджей от Stack Overflow:
В правой колонке автоматически формируется SQL-запрос. При нажатии на голубую кнопку текст копируется в буфер, а вас перекидывает на Stack Exchange Data Explorer, где можно отправить запрос.
Готовые скрипты
Скорее всего, нужный вам запрос уже кем-то написан — осталось только найти и подправить его под свои задачи.
Например, я нашел интересный скрипт, который необходимо настроить: указать локацию поиска в User.Location и скиллы (язык программирования или фреймворки) в Tags.TagName. Скрипт формирует таблицу, где по каждому пользователю есть информация:
- Ссылка на профиль в Stack Overflow.
- Репутация — формируется за счет ответов на вопросы и является частью системы геймификации Stack Overflow.
- Ссылка на веб-сайт, который указан в профиле.
- Предполагаемые ссылки на GitHub, LinkedIn и Telegram — формируются путем подстановки никнейма пользователя на Stack Overflow. Это сработает, только если человек использует один и тот же никнейм в разных соцсетях.
Есть готовый запрос для поиска по стеку и локации — надо только заполнить поля TagName и LocationName, а потом нажать кнопку Run Query. Например, если вбить Rust и Moscow, то получим выдачу из 50 профилей.
Внутренний поиск
Поиск по темам
Внутренний поиск Stack Overflow ориентирован не на людей и их навыки, а на темы и сообщения. Допустим, вам требуется информация по какой-то проблеме — делаете запрос и смотрите решения.
А вот получить выборку из всех java-разработчиков из Москвы не получится: этих фильтров просто нет во внутреннем поиске. С такими запросами лучше сразу идти на GitHub, LinkedIn или классические джоб-борды.
Но зато вы можете найти человека, который разбирается в узкой теме. Сценарий поиска такой:
- Рекрутер знает о проблеме, которую решает команда разработки.
- Он вбивает запрос по этой проблеме в поисковую строку на Stack Overflow.
- Затем читает обсуждения и пытается связаться с людьми, которые его заинтересовали.
Однажды таким способом я искал Reverse Engineer — это редкий специалист, который занимается информационной безопасностью и исследованиями. Я нашел кандидата и довел его до оффера, который тот, увы, так и не принял.
Для понимания работы операторов поиска по темам нужно изучить официальную документацию Stack Overflow.
Поиск синонимов
Stack Overflow можно использовать не только для поиска кандидатов — это еще и полезная база знаний для рекрутера, который начал работать с новой вакансией.
Допустим, вы впервые ищете ML-инженера и не знаете, какие ключевые слова использовать. Можно отправиться в гугл: разбираться в статьях, где обычно много воды, вычленять ключевики, пытаться докопаться до сути. Но есть более простой и быстрый способ — перейти в раздел «Метки» на Stack Overflow, найти нужную технологию, посмотреть описание и связанные с ней ключевые слова:
Для чего подходит Stack Overflow
Если нужен редкий специалист
Если ищете специалиста с редкой экспертизой или сочетанием скиллов, то Stack Overflow — хороший выбор. За классическими джавистами, питонистами, php-разработчиками и гошниками можно отправляться в другие источники, более удобные для рекрутинга.
Если нужна «звезда»
Здесь могут обитать популярные в комьюнити разработчики — они отвечают на вопросы, участвуют в обсуждениях, зарабатывают себе бейджи и репутацию.
Если вы охотитесь за конкретным кандидатом, то можете найти его на Stack Overflow. Почитайте, что он пишет в обсуждениях, чем интересуется — это помогает понять, как построить диалог со звездным собеседником.
Если надо изучить стек технологий
Чтобы построить конструктивный диалог с кандидатом, рекрутер должен говорить с ним на одном языке. А для этого нужно хотя бы минимально, но разбираться в предметной области: знать свой стек технологий, основные фреймворки и обсуждаемые темы.
Stack Overflow можно использовать для того, чтобы глубже погрузиться в предметную область, понять, чем живет сообщество, какие проблемы решает и что обсуждает.
Еще про сорсинг в блоге Хантфлоу:
- Рекрутинг в LinkedIn: часть 1 и часть 2
- Сорсинг на GitHub
- Инструменты сорсинга: обзор для начинающих
- 25 ресурсов для обучения сорсингу
- 11 нестандартных источников для сорсинга
- Руководство по сорсингу от Нарека Асликяна
- Как развиваться сорсеру
Главное про сорсинг на Stack Overflow
- На Stack Overflow можно найти любых специалистов, которые пишут код.
- При этом сервис не очень удобен для рекрутеров: нет возможности писать личные сообщения, контакты часто отсутствуют, сложно понять, ищет ли кандидат работу.
- Stack Overflow удалил страницы с резюме (Developer Story) из профилей пользователей, но они остались в памяти гугла и все еще доступны для X-ray-поиска.
- Профили хранятся по адресу stackoverflow.com/users. Чтобы в выборке были только русскоязычные пользователи, ищите по русскоязычному сегменту (ru.stackoverflow.com/users) или используйте ключевое слово Russia.
- Применяйте Stack Exchange Data Explorer, чтобы искать по всей базе пользователей с помощью SQL-запросов. Если не знаете SQL, то воспользуйтесь готовыми скриптами или генератором запросов.
- Внутренний поиск Stack Overflow довольно бесполезен, потому что ориентирован на темы и вопросы, а не на людей и их скиллы. Однако его можно использовать, чтобы найти экспертов для решения какой-то специфической проблемы.
- Поиск по меткам — спасение для рекрутера, который хочет подобрать синонимы, но не готов копаться в гугле, вычленяя ключевые слова и разбираясь с новым для себя стеком.
- Если вам нужна «звезда», ее можно встретить среди пользователей с высокой репутацией.
Stack Overflow временно запретил публиковать подсказки программистам от ИИ-бота ChatGPT — он часто обманывает
Сайт Stack Overflow, предназначенный для организации взаимопомощи программистам, временно запретил пользователям публикацию справочных материалов, сгенерированных чат-ботом ChatGPT. По словам модераторов, создавать подсказки с помощью искусственного интеллекта ChatGPT слишком легко, и они выглядят весьма правдоподобно. Тем не менее, очень часто они неправильные.
Источник изображения: Andrea De Santis/unsplash.com
Чат-бот ChatGPT — экспериментальное решение, разработанное компанией OpenAI на основе генератора текстов GPT-3.5. Сетевая демо-версия продукта была представлена на прошлой неделе и с тех пор активно используется пользователями. Проблема в том, что бот способен решать массу задач, от написания стихов и песен до сценариев и формулирования ответов на задаваемые вопросы, но при всей убедительности текстов, они очень часто содержат грубые ошибки, особенно когда речь идёт о темах, посвящённых работе с программным кодом. Впрочем, ошибки совершаются и в других сферах: составляя биографию известной личности, ChatGPT способен вставлять в текст некорректные данные. Таким же образом он создаёт вполне «правдоподобный», но неработающий код.
В основу ChatGPT положены большие языковые модели (Large Language Model, LLM). Они анализируют огромные массивы текстов, формируют закономерности и на их основе предлагают собственные решения, буквально предугадывая, каким должно быть следующее слово в предложении. Такие модели не имеют точного представления о работе некоторых систем, в результате чего фактически генерируется недостоверная информация. Пока трудно оценить, какая часть подготовленных ими материалов недостоверна. В Stack Overflow решили, что риск дезинформации пользователей слишком велик. При этом многие эксперты опасаются, что с ростом числа сгенерированных неверных ответов растёт и риск того, что ими поделятся в Сети, погружая последнюю в хаос — контент, созданный реальными пользователями, просто утонет в море сгенерированных материалов.
Пока данных о вреде, наносимом LLM в реальном мире, немного, но события на Stack Overflow служат подтверждением существования пугающей тенденции. По словам модераторов, до введения запрета на ChatGPT на площадке уже появились тысячи сгенерированных ответов, каждый из которых требует детальной проверки.
Эксперты опасаются, что ситуация повторится и на других платформах — лавина сгенерированного ИИ контента не позволит ознакомиться с мнениями настоящих пользователей.
Пользователи Stack Overflow поддержали запрет, хотя отметили, что распознать «искусственный» контент будет непросто. Совета спросили и у самого ChatGPT. В ходе многочисленных экспериментов тот выдал вполне разумный ответ. «В целом, разрешать ли сгенерированные ИИ ответы на Stack Overflow — сложное решение, которое должно осторожно рассматриваться сообществом», — заявил бот.
Источник: