ИИС / поштучно / 24.Эволюционные алгоритмы
Генетические алгоритмы (genetic algorithms) совместно с эволюционной стратегией и эволюционным программированием представляют три главных направления развития так называемого эволюционного моделирования (simulated evolution). Три данных метода объединяются также под общим названием «эволюционные алгоритмы» (evolutionary algorithms), «эволюционные методы» (evolutionary methods) или «эволюционные программы» (evolution programs) [7].
Несмотря на то, что каждый из этих методов возник независимо от других, они характеризуются рядом важных общих свойств. Для любого из них формируется исходная популяция особей, которая в последующем подвергается селекции и воздействию различных генетических операторов (чаще всего скрещиванию и/или мутации), что позволяет находить более хорошие решения.
Эволюционные стратегии – это алгоритмы, созданные в Германии в качестве методов решения оптимизационных задач и основанные на принципах природной эволюции.
Эволюционное программирование представляет собой подход, предложенный американскими учеными вначале в рамках теории конечных автоматов и обобщенный позднее для приложений к проблемам оптимизации. Оба направления возникли в шестидесятых годах XX века.
Сконцентрируем внимание на важнейших сходствах и различиях между эволюционными стратегиями и генетическими алгоритмами. Очевидно, что главное сходство заключается в том, что оба метода используют популяции потенциальных решений и реализуют принцип селекции и преобразования наиболее приспособленных особей. Однако обсуждаемые подходы сильно отличаются друг от друга. Итак, различия между генетическим алгоритмами и эволюционными стратегиями [7]:
- Способ представления особей. Эволюционные стратегии оперируют векторами действительных чисел, тогда как генетические алгоритмы (в классической реализации) – двоичными векторами.
- 3)Последовательность выполнения процедур селекции и рекомбинации (т.е. изменения генов в результате применения генетических операторов). При реализации эволюционных стратегий вначале производится рекомбинация, а потом селекция. В случае выполнения генетических алгоритмов эта последовательность инвертируется (т.е. сначала выполняется селекция родительских пар, а затем в процессе скрещивания выполняется рекомбинация генов). При осуществлении применения эволюционных стратегий потомок образуется в результате скрещивания двух родителей и мутации. Формируемая таким образом промежуточная популяция, состоящая из всех родителей и полученных от них потомков, в дальнейшем подвергается селекции, которая уменьшает размер этой популяции до размера исходной популяции. При выполнении генетических алгоритмов вначале производится селекция, приводящая к образованию переходной популяции, после чего генетические операторы скрещивания и мутации применяются к особям (выбираемым с вероятностью скрещивания) и к генам (выбираемым с вероятностью мутации).
- Степень стационарности параметров процедуры. Параметры генетических алгоритмов (такие, как вероятности скрещивания и мутации) остаются постоянными на протяжении всего процесса эволюции, тогда как при реализации эволюционных стратегий эти параметры подвергаются непрерывным изменениям (так называемая самоадаптация параметров).
 |
 |
| Рисунок 44. Решение задачи с помощью классического генетического алгоритма | Рисунок 45. Решение задачи с помощью эволюционного алгоритма (эволюционной программы) |
Классический генетический алгоритм, который оперирует двоичными последовательностями, требует представить решаемую задачу в строго определенном виде (соответствие между потенциальными решениями и двоичными кодами, декодирование и т.п.). Сделать это не всегда просто. Эволюционные программы могут оставить постановку задачи в неизменном виде за счет модификации хромосом, представляющих потенциальные решения (с использованием «естественных» структур данных), и применения соответствующих «генетических» операторов. Другими словами, для решения нетривиальной задачи можно либо преобразовать ее к виду, требуемому для использования генетического алгоритма (рисунок 44), либо модифицировать генетический алгоритм так, чтобы он удовлетворял задаче (рисунок 45). При реализации первого подхода применяется классический генетический алгоритм, а при реализации второго подхода – эволюционная программа [7]. Таким образом, модифицированные генетические алгоритмы можно в общем случае называть эволюционными программами. Однако чаще всего встречается термин «эволюционные алгоритмы». Эволюционные программы также могут рассматриваться как эволюционные алгоритмы, подготовленные программистом для выполнения на компьютере. Основная задача программиста заключается при этом в выборе соответствующих структур данных и «генетических» операторов. Именно такая трактовка понятия «эволюционная программа» представляется наиболее обоснованной. Все понятия, применяемые в настоящем разделе и относящиеся главным образом к методам, основанным на эволюционном подходе, можно сопоставить главному направлению исследований – компьютерному моделированию эволюционных процессов. Эта область информатики называется Evolutionary Computation, что можно перевести как «эволюционные вычисления» [7]. К эволюционным алгоритмам также применяется понятие «технология эволюционных вычислений». Можно добавить, что название «генетические алгоритмы» используется как в узком смысле, т.е. для обозначения классических генетических алгоритмов и их несущественных модификаций, так и в широком смысле – подразумевая любые эволюционные алгоритмы значительно отличающиеся от «классики».
Искусственный интеллект. Генетический алгоритм и его применения
Внимание, вопрос: помните ли вы движущие силы эволюции по Дарвину? Эти знания нужны для понимания работы генетического алгоритма, так как он пытается имитировать процессы, действительно происходящие в природе. Итак, основной предпосылкой эволюции является наследственная изменчивость, а её движущими силами — борьба за существование и естественный отбор. Используя генетический алгоритм, вы действуете по сути как творец и сами устанавливаете законы эволюции, позволяющие достичь оптимальности в популяции. В идеале должны выработаться необходимые для выживания и адаптации качества, которые и будут искомым решением. Посмотрим, как реализуются эти принципы в генетическом алгоритме.
⇡#Что это?
Генетический алгоритм (ГА) — это алгоритм поиска и оптимизации, прообразом которого стал биологический принцип естественного отбора.
⇡#Как он работает?
Первый этап — создание популяции. В данном случае популяция — это не совокупность биологических особей, а множество возможных решений имеющейся проблемы, которые образуют пространство поиска (space search).
Второй этап — подсчёт функции пригодности (приспособленности, fitness function). Данная функция принимает на вводе потенциальное решение проблемы (candidate solution), а выдаёт значение, оценивающее его пригодность. В случае с классическим генетическим алгоритмом целевая функция и функция пригодности — это одно и то же. Далее проверим, выполнено ли условие остановки алгоритма. Алгоритм прекратит исполняться, если достигнуто ожидаемое оптимальное значение, если полученное значение больше не улучшается или по истечении заданного времени/количества итераций. После остановки происходит выбор самой приспособленной хромосомы (по наибольшему значению функции). Если же условие остановки не выполнено, то по результатам естественного отбора будет производиться селекция хромосом для производства потомков.
Третий этап – скрещивание ( в русских источниках — «кроссинговер», реже «кроссовер» ) и мутация.
Блок-схема генетического алгоритма
Скрещивание, мутация и селекция – это генетические операторы. Как и в природе, вероятность скрещивания на несколько порядков выше вероятности мутации. Скрещивание поддерживает бесконечное разнообразие в популяции, это перераспределение генетического материала родителей, благодаря которому у потомков появляются новые сочетания генов. Но о каких «генах» и «хромосомах» может идти речь вне контекста живой природы? В генетическом алгоритме «хромосома» — набор параметров, определяющих предлагаемое возможное решение, а «ген» — это одна из «букв» строки «хромосомы», как правило, имеющая двоичное значение. Как мы помним, в результате селекции отбираются самые приспособленные хромосомы — к ним и применяются эти генетические операторы. Наверное, вы сейчас думаете, каким же образом может происходить скрещивание у таких «хромосом». Возможно несколько сценариев, упомянем лишь некоторые из них.
Одноточечный кроссинговер (single-point crossover): есть пара родительских хромосом с набором генов L, для них случайным образом выбирается так называемая точка скрещивания Px – это некая позиция гена в хромосоме. К [1; Px] одной родительской хромосомы присоединяется [Px+1; L] другой, и получается первый потомок. Второй потомок получается также скрещиванием, но «в обратную сторону».
Двухточечный кроссинговер (two-point crossover): обмен генетическим материалом, (то есть, битами) происходит в двух точках скрещивания.
Однородный кроссинговер (uniform crossover): значение каждого бита в хромосоме потомка определяется согласно случайно сгенерированной маске кроссинговера. Если в маске стоит 0 – берется ген от первого родителя, если 1 – от второго.
Для более глубокого погружения в тему эволюционных алгоритмов реокмендуем изучить статью F.Herrera, M.Losano, A.M.Sanches Hybrid Crossover Operators for Real-Coded Genetic Algorithms: An Experimental Study.
Мутация — генетический оператор, который с некой вероятностью меняет один или несколько «генов» в случайных позициях «хромосомы». Для чего он нужен? Зачем мутации (изменения в генетическом коде) существуют в природе, могут ли они способствовать лучшей выживаемости вида? Эта статья не о генетике, но не будем забывать, что именно она послужила источником вдохновения для Холланда, создателя генетического алгоритма (1975). Потомки, которые подверглись воздействию генетических операторов, образуют новую популяцию – и в ней начинается очередная итерация ГА. Снова идет подсчет функции пригодности, происходит естественный отбор, а дальше алгоритм либо остановится, если заданное условие выполнено, либо вновь перейдет к селекции. Если хочется посмотреть интересное применение, можно почитать разбор задачи коммивояжера (travelling salesman problem) и задачи об укладке рюкзака (knapsack problem) с применением ГА. Обе эти задачи являются задачами комбинаторной оптимизации, то есть в конечном множестве объектов мы ищем оптимальный. Сами того не подозревая, мы решаем подобные задачи каждый день. Теперь посмотрим на преимущества и недостатки этого метода.
Плюсы ГА
Этот алгоритм имеет уникальные сильные стороны:
- предлагает на выбор несколько решений, а не одно;
- исследует сразу несколько точек, а не одну за другой, благодаря чему целевая функция не упрётся в локальный экстремум;
- оптимизация происходит непрерывно при меняющихся условиях среды, а популяции приходится приспосабливаться;
- может предложить удовлетворительное решение для NP-hard проблемы;
- допускает параллельные вычисления;
- подходит для решения задач с самыми разными параметрами (главное — задать подходящую функцию пригодности).
Минусы ГА
- «просто хорошее решение» — это тоже иногда недостаток;
- много точек в пространстве поиска – это тоже иногда недостаток;
- не всегда удобно представить задачу в терминах генов и хромосом.
⇡#Для каких задач используется ГА?
С помощью ГА решается ц елый спектр задач: от разработки антенн NASA до программ распознавания структуры белков.
В финансах ГА успешно используется для моделирования экономических агентов с ограниченно рациональным поведением: финансового прогнозирования, инвестирования, и т. д. Одна из интересных задач — оптимизация финансового портфеля (portfolio optimization). В теории игр ГА применяется, например, для разрешения дилеммы узника. Его можно применять в играх с двумя участниками для оптимизации стратегий.
В робототехнике ГА прекрасно применяется для управления человекоподобным роботом, оптимизации планирования маршрута (routing). В авиации — для системы контроля полетов. Кстати об авиации: ученые General Electric и Ренсселеровского политехнического института применили ГА для конструирования турбины реактивного двигателя, который применяется в современных авиалайнерах.
Можно использовать ГА и в более близких для нас ситуациях, например, для планирования расписания на производстве или в крупном учебном заведении. В первом случае фитнес-функция может задавать количество деталей, изготовленных за определенное количество времени, а во втором – «штрафовать» конфликтующие ветки расписания. Возможности для творчества просто безграничны.
Что дальше? Читатель, который хочет знать больше, может обратиться к материалам GECCO conference — это конференция, которая посвящена эволюционному программированию, там самые горячие новости и обновления. Математическая сторона хорошо описана здесь:
Ещё по применениям ГА на английском языке:
Недавно вышла привлекающая внимание книга: Buontempo, Frances. Genetic algorithms and machine learning for programmers: create AI models and evolve solutions. Pragmatic Bookshelf, 2019.
Материалы, которые использовались для написания этой статьи:
- Джон Х. Холланд. Генетические алгоритмы. «В мире науки», 1992
- Hornby, Gregory, et al. «Automated antenna design with evolutionary algorithms.» Space 2006. 2006. 7242.
- Darrel Whitley «A Genetic Algorithm Tutorial», 1993.
- F.Herrera, M.Losano, A.M.Sanches. «Hybrid Crossover Operators for Real-Coded Genetic Algorithms: An Experimental Study».
- Guennoun, Z., and F. Hamza. «Stocks portfolio optimization using classification and genetic algorithms.» Applied Mathematical Sciences 6.94 (2012): 4673-4684.
- Блок-схема: intuit.ru
- Диаграммы кроссовера: geeksforgeeks.org
Другие материалы цикла:
- Искусственный интеллект: алгоритмы поиска
- Хочу изучать искусственный интеллект!
- Отрасли и направления искусственного интеллекта: взгляд «с высоты птичьего полёта»
- Искусственный интеллект и сознание: imitation game
- Знакомство с искусственным интеллектом
Эволюция систем искусственного интеллекта (ИИ), появление цифровых и иных сверхтехнологий и их влияние на изменение социальной реальности, на создание нового качества общественной жизни Текст научной статьи по специальности «Философия, этика, религиоведение»
искусственный интеллект / Интернет / компьютерные сети / нейросеть / робот / мышление / сознание / общество. / artificial intelligence / Internet / computer networks / neural network / robot / thinking / consciousness / society.
Аннотация научной статьи по философии, этике, религиоведению, автор научной работы — Кузнецов Владимир Александрович
В статье предпринята попытка осветить влияние новых передовых технологий ( искусственного интеллекта , роботизации и др.) на изменение жизни человечества и личности. Содержание заявленной темы фактически подводит нас к проблеме будущего социума, и прежде всего в его социально-экономической и духовной сферах.
i Надоели баннеры? Вы всегда можете отключить рекламу.
Похожие темы научных работ по философии, этике, религиоведению , автор научной работы — Кузнецов Владимир Александрович
Правосубъектность электронного лица: теоретико-методологические подходы
Современное состояние искусственного интеллекта
Три закона робототехники Айзека Азимова: к вопросу гуманности применения смертоносных автономных систем вооружения на войне
Футурологическая терминология (на материале книги А. Турчина и М. Батина «футурология. Xxi век: бессмертие или глобальная катастрофа?»)
Технологии искусственного интеллекта как фактор цифровизации экономики России и мира
i Не можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.
The evolution of artificial intelligence (AI) systems, the emergence of digital and other supertechnologies and their impact on changing social reality, on the creation of a new quality of social life
The article attempts to highlight the impact of new advanced te chnologies ( artificial intelligence , robotics, etc.) on the change in the life of mankind and personality. The content of the stated theme actually brings us to the problem of the future society and above all in its socio-economic and spiritual spheres.
Текст научной работы на тему «Эволюция систем искусственного интеллекта (ИИ), появление цифровых и иных сверхтехнологий и их влияние на изменение социальной реальности, на создание нового качества общественной жизни»
ФИЛОСОФСКИЙ ВЗГЛЯД НА ГЛОБАЛЬНЫЕ ПРОБЛЕМЫ СОВРЕМЕННОСТИ
Вестник Челябинского государственного университета. 2019. № 8 (430). Философские науки. Вып. 53. С. 5—10.
УДК 1:316 ББК 60.01
Эволюция систем искусственного интеллекта (ИИ),
появление цифровых и иных сверхтехнологий и их влияние на изменение социальной реальности, на создание нового качества общественной жизни
Челябинский государственный университет, Челябинск, Россия
В статье предпринята попытка осветить влияние новых передовых технологий (искусственного интеллекта, роботизации и др.) на изменение жизни человечества и личности. Содержание заявленной темы фактически подводит нас к проблеме будущего социума, и прежде всего в его социально-экономической и духовной сферах.
Ключевые слова: искусственный интеллект, Интернет, компьютерные сети, нейросеть, робот, мышление, сознание, общество.
В настоящее время появляется много статей, в которых пугают человечество ожиданиями катастроф, в которых оно погибнет. Так, российский физик-футуролог Алексей Турчин предпринял попытку систематизации явлений, которые приведут к «концу света» в XXI в. и назвал сто таких причин [9—10].
Он разделил риски, которые возникнут в течение ста лет из-за стремительно развивающихся сверхтехнологий на следующие группы: 1) риски, возникающие на основе нанотехнологий (управление неживой материей, связанное с созданием новых наноматериалов); 2) на основе биотехнологий (управление живой материей; коррекция организмов, создание тканей, вирусов); 3) на основе совершенствования систем искусственного интеллекта (управление информацией и «всем, чем угодно»). А. Турчин утверждает, что системы ИИ могут взять под контроль Интернет и любые компьютерные сети и тем самым смогут повлиять на изменения в социуме.
Еще один пример такого риска «во зло». В наше время биохакеру не составит труда вырастить вирус, способный уничтожить значительную часть человечества. Сегодня ученым известно, какие буквы генетического алфавита нужно поменять в вирусах, чтобы они приобрели абсолютную летальность.
Исследователи отмечают около десятка основных сценариев возможных катастроф. Они их называют базовыми. Среди них: экстремальное изменение климата; пандемия, вспышка на Солнце, авария при научном эксперименте; падение астероидов, ядерная война и др.
Возможный (но маловероятный) сценарий планетной катастрофы — это парниковая катастрофа как необратимое изменение климата, например, из-за роста температуры до 100 градусов Цельсия и более. По расчетам физика А. Карнаухова, могут вырваться на свободу огромные запасы метана в Арктике, а его парниковый эффект во много раз превосходит воздействие углекислого газа.
Климатические аномалии вызывают миграцию и социальные катаклизмы из-за уменьшения пищи и годной к употреблению воды. В конечном счете изменение климата может привести к гибели многих биологических видов.
Астероидная опасность: согласно теории вероятности, в ближайшие сто лет ничего крупного на нас не упадет (в год у Земли один шанс из миллиона столкнуться с астероидом).
Ядерная опасность: известен случай, когда спутники ошибочно выдали блики от Солнца за запуски американских ракет, предупреждающаяся система дала команду на ответный ядерный удар, но, проанализировав ситуацию, русский ракетчик подполковник Станислав Петров отменил ее.
Другие риски катастроф связываются с наноро-ботами. Они невидимы, будут доставлять к больным органам лекарства, лечить человека изнутри, продвигаясь по кровеносным сосудам (очищать кровь) и даже проводить хирургические операции.
Другие роботы (промежуточные между механизмом и живой клеткой) будут способны осуществлять молекулярное воспроизводство и размножаться (реплицироваться). Идею о таких роботах выдвинул еще в 1986 г. «отец нанотех-нологий» американский ученый, инженер Эрик Дрекслер (а затем американский исследователь Роберт Фрейтас). Э. Дрекслер высказал теоретический сценарий катастрофы под названием «Серая слизь» [4, ч. 3, гл. 11], когда подселенный в человека миниатюрный (размером с клетку) наноробот, который должен размножиться, например, сто раз, из-за сбоя выходит из под контроля, «не останавливается» и продолжает все на своем пути раскладывать на составные элементы и собирать из них собственные копии, как вирус. Они заполняют всю планету: человеческие тела, биосфера — все служит ему строительным материалом, и, пожирая биомассу, он и превращают ее в серую слизь. Согласно расчетам, все живое на нашей планете такие «сошедшие с ума» роботы смогут превратить в серую слизь за два дня. Недавно ученые из Бристоля создали робота для очистки водоемов, способного поедать живые организмы и получать за счет этого необходимую ему энергию.
Другая разновидность потерявших контроль медицинских роботов может начать вместо лекарства впрыскивать человеку различные яды. Такие роботы могут стать оружием террористов. Пока еще такие нанороботы не созданы. Другой подобный вариант такого сценария: кто-то подбросит наноробота неприятелю в военных целях, а дальше он также начнет неконтролируемо раз-
множаться. И тогда вдруг все может пойти не так, как предполагали стратеги, и он принесет вред своим войскам.
Мы уже упоминали о риске для жизни человечества такого явления, как биохакерство, биохакинг. Этот риск получил название «Вирус из гаража». Один из первых биохакеров стал молодой американский физик Р. Карлсон, мечтавший создать новейшие технологии в молекулярной генетике. У него была цель — создать новые, более простые технологии лечения людей, которыми могли бы пользоваться сами больные. Для этого он создал биолабораторию у себя дома. Подобные ему биохакеры ищут формулу перспективного биотоплива, изучают собственные геномы, создают новые вирусы. Опасность такого любительского биохакерства заключается в том, что могут быть созданы такие вирусы, которые погубят человечество. Задача — осознать опасность проблемы и противодействовать биохакингу.
Но главные риски и ученные, и философы, и публицисты-фантасты связывают с развитием систем искусственного интеллекта (ИИ). О рисках ИИ сейчас можно прочитать и в серьезных книгах, и в желтой прессе. Одни специалисты считают, что создать ИИ как полный аналог человеческому сознанию можно, другие, такие как Б. Гейтс, скептически настроены относительно времени создания ИИ. Часть ученых-специалистов считают, что создать системы ИИ, обладающие сознанием, невозможно и берут словосочетание «ИИ» в кавычки.
Вначале о взглядах тех, кто говорит об опасности систем ИИ. И прежде всего о взглядах Илона Маска [5]. Его взгляды вытекают из мысленной гипотезы, подобной концепции Э. Дрекслера, имеющей радикальный взгляд. Сторонники такого радикализма считают ИИ программой, которая начнет усиливать сама себя и за короткий срок превзойдет способности человека, а дальше сможет истребить или «испортить жизнь» людей. Например, кто-нибудь неосторожно скажет: «Давайте посчитаем число пи» — и программа начнет строить суперкомпьютер максимальной мощности, используя все земные ресурсы, включая людей. Это так называемый сценарий paperclip maximize (максимизатор скрепок). Его в 2003 г. описал известный философ Ник Бостром, руководящий Институтом «Будущее человечества» в Оксфордском университете. Он выдвинул гипотезу о том, что если система ИИ «собьется» на такую цел, как производство скрепок, то эта система из всего, что есть в мире, будет делать только скрепки [12]. В данном случае система ИИ стала сумасшедшей штуковиной, которую не ин-
тересует ничего, кроме скрепок, и она делает их изо всего подряд. И все такие сценарии сводятся к обобщающей схеме: ИИ сначала предложит «скачать» его, как это бывает в вирусной рассылке, а «затем захватит Землю — запрограммирует здесь все, что можно, проникнет в передающие станции и начнет рассылать себя дальше».
Итак, сейчас широко распространено мнение, что ИИ очень опасен для человечества. Это мнение поддерживается известным предпринимателем Илоном Маском. Поэтому он, опасаясь того, что такие системы могут принять решение об убийстве людей, предлагает ограничить их деятельность, надежно их контролировать. Если с этим мы с этим не справимся, то нужно человечеству перебраться с Земли на Марс. Для контроля эволюции систем ИИ И. Маск в 2015 г. запустил проект ОрепА1, задача которого — обезопасить человечество путем создания открытой системы дружественного интеллекта: каждый исследователь будет обмениваться результатами своей работы, и в итоге появится не единый, а гипермногополярный искусственный интеллект, то есть разные ИИ будут друг друга уравновешивать. Хотя это, как считает часть ученых, «все равно что раздать всем атомную бомбу».
Подобных позиций Маска придерживался и недавно покинувший наш мир всемирно известный ученый Стивен Хокинг. Он предупреждает: «Появление полноценного искусственного интеллекта может стать концом человеческой расы. Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены медленной эволюцией, мы не можем тягаться со скоростью машин и проиграем» [11].
Риски, связанные с ИИ, ближе к нам, чем кому-то кажется. В результате совершенствования ИИ возникают этические дилеммы: если на пути несущегося беспилотника неожиданно возникает преграда — на одной дороге один человек, а на другой — пять, кого он должен задавить? Роботу пытаются приписать сложнейшую человеческую сферу деятельности — операцию с ценностями, с системами ценностей. Возникает философская проблема, каким образом дойдет ИИ до осознания ценности и дойдет ли? Когда-то замечательный писатель-фантаст Айзек Азимов разработал законы робототехники. Первый из них гласит, что робот не может причинить вреда человеку [1, с. 3—79].
Различные и даже полярные позиции в отношении ИИ вытекают и из различного понимания сущности и содержания системы ИИ.
В настоящее время под ИИ понимают некую совокупность технологий, решающих «интел-
лектуальные» задачи (и более ничего). Другое содержание понятия ИИ было создано в кино и литературе. В результате этого у людей сложилось представление о том, что роботы обладают разумом, сравнимым с человеческим. Интеллект и разум абсолютно разные вещи, их не надо смешивать. Об этом говорят сами специалисты, разрабатывающие эти системы.
Сейчас для разработчиков ИИ основная работа — машинное обучение, в частности работа с нейронными сетями. Специалисты обучают системы ИИ решать задачи: «запоминать» изображения, переводить тексты. Об этих процессах в совершенствовании ИИ рассказал в недавнем интервью один из специалистов по нейронным системам Михаил Бурцев. Именно он назвал взгляды Илона Маска и Стивен Хокинга, которые считают, что ИИ угрожает жизни человечества, «слегка параноидальным подходом к этой теме», что они «скорее пугают людей» [2, с. 8—9] Таково отношение специалиста по ИИ к высказываниям неспециалистов по данной теме.
Начало работ по созданию роботизированных систем относится к 1950-м гг. Образовались два подхода к изучению ИИ.
При первом подходе (символьном) моделировали мыслительные функции человека, его рассудочную деятельность и поведение.
Но потом верх взял другой подход, который предполагает моделирование работы нейронных сетей. Потом, в 1970-е гг., стали обучать нейросе-ти решать задачи приближения или замены одних функций другими, в каком-то смысле близкими к исходным, но более простыми (заметьте, функции нейронной сети человеческого мозга есть результат усложнения системы; а в этом случае, наоборот, функции как результат упрощения — В. К.). «В этом как раз проявилось основное отличие нейронных сетей от классических алгоритмов, в случае которых программист должен заранее задать последовательность вычислений, необходимых для решения задачи». М. Бурцев констатирует: «С нейросетями нам не нужно знать эту последовательность — достаточно иметь много примеров входных данных и правильных ответов, а затем применить алгоритм обучения, который автоматически настроит параметры нейросети. В результате нейросеть сможет решать задачу не только для знакомых примеров, но и для всех остальных случаев. Например, вам нужно научить нейросеть отличать пирожные от бананов на картинках. Вы берете несколько тысяч картинок и размечаете их — где пирожные, а где бананы. После этого обучаете нейросеть предсказывать правильный ответ. Алгоритм учится обобщать обучающую
выборку, на которой он тренировался, и в итоге может работать с незнакомыми картинками» [2, с. 8—9]. То есть нейросети не программируют в стандартном понимании, их тренируют. Поэтому результат сильно зависит от объема данных: чем их больше, тем выше качество решения.
Другой специалист в области ИИ Тимур Пал-ташев, работающий ныне в Силиконовой долине, Калифорния, в своем интервью подчеркивает, что «сейчас на вооружении исследователей компьютеры в десятки терафлопс», но, несмотря на это, пока особых успехов нет. «Все, что сегодня делают разработчики ИИ, — это тренируют нейронные сети распознавать объекты: например, на автотранспорте — пешеходов, собак, кошек. если мы хотим, чтобы машина ездила свободно по всем типам местностей, нам придется оснастить ее большим блоком памяти» [8, с. 16—17]. М. Бурцев отмечает задачу европейского исследовательского проекта — сначала полностью смоделировать мозг мыши, а потом и человека. Насколько точно модель будет отображать человеческий мозг — это открытый вопрос.
Сейчас в лаборатории МФТИ, говорит М. Бурцев, занимаются применением нейросетевых методов к задачам ведения диалога. В настоящее время системы ИИ пока «плохо держат» длинный контекст.
Какие же вопросы следуют из сказанного? Можно утверждать, что проблема «восстания машин» фантастична, так как сам механизм обучения систем ИИ строится на жесткой фиксации в сценарии обучения. Здесь следует обратиться к ученым, исследующим мозг человека, к специалистам в области нейронауки и психолингвистики. Именно они говорят, что сложнее мозга нет ничего во Вселенной. Мозг — это сложнейшая нейронная сеть, которая постоянно меняется, это «сеть сетей, гиперсеть, гиперсеть гиперсетей». Так, профессор Санкт-Петербургского университета Татьяна Черниговская в своем выступлении на Санкт-Петербургском экономическом форуме заявила: «Если хоть как-то удастся разгадать, что происходит в человеческом мозгу, это изменит всю нашу цивилизацию: экономику, коммуникацию, образование — это изменит все» [13]. Мы должны изучать мозг для того, чтобы имитировать его работу в системах ИИ. Далее Т. Черниговская заявила, что «мы зависим от того, как соображает наш мозг. Останется ли человек человеком? Что такое личность, и исчезнет ли она в сетевом мире? <. >Если вам пересадили мозг другого человека, вы кто? Тот, чье тело, или тот, чей мозг? Разумеется, тот, чей мозг» [13]. В этом случае нужно уточнить: мозг не пересаживают,
это тело пересаживают, присоединяют к другому мозгу, а вашего мозга уже нет — В. К.).
Говорят, что произойдет слияние человека и робота, что мы станем «киборгами» (что отчасти верно) путем внедрения искусственных органов и расширения сенсорных возможностей человека. Пишут о внедрении чипов «с закачанной информацией, идеями» и что поэтому «ваши решения будут уже не ваши». Но клетки (как система) не имеют дело с идеями и образами, они вступают во взаимодействие только с поступающими извне в клетку веществом и энергией. Так куда «закачать идеи»?
Иногда рисуют фантастические конструкции, не вдаваясь в содержание понятий, которыми оперируют. Для некоторых авторов нет различия между понятиями «разум», «сознание», «мышление», «интеллект». Например, Майк Бутчер (редактор TechGrunh Europe) предсказывает: «Через 40 лет вы сможете скачать свой мозг и свое сознание и залить их в компьютер, они будут жить самостоятельной жизнью» [3]) Возникают вопросы: что значит «скачать» свой мозг и сознание? И зачем «скачивать» нейроны, молекулы, атомы? Чтобы «скачать» или «сконструировать» сознание, его необходимо описать конечным числом слов. Попробуйте описать хотя бы эмоции, страсти, фрустрации, волю, интересы, мотивы и т. п. Другой вопрос: откуда «скачивать» сознание? В центральной нервной системе человека во главе с мозгом вы не найдете ничего, кроме молекул и атомов. Вы не найдете никаких идей и образов! Сознание в мозговых структурах не живет (В. К.). Сознание возникает только при взаимодействии человека с человеком по поводу других объектов. Сознание живет только при взаимодействии человека с миром. Сознание — это сразу и мир.
В чем причины живучести сценариев катастроф и роста на этой основе беспокойства людей? Один из исследователей ИИ, главный редактор журнала «Мир ПК» Олег Капранов говорит: «Как показывает опыт футурологов и фантастов предыдущих лет, традиционно ошибка строится на том, что мы линейно прогнозируем развитие существующих сегодня технологии» [6, с. 17]. Это только в фильмах и в книгах нам показывают роботов, у которых в определенный момент взаимодействия с людьми появляется сознание. Интеллект-то искусственный, а любовь-то показывают настоящую. Поэтому возникает вопрос: «Что значит — робот осознал себя, и что тогда считать сознанием»?
Когда человек выполняет какую-то задачу, он в это время контролирует другие объекты, процессы, в том числе он ощущает присутствие, боль, вибрацию и т. п., а система ИИ, согласно опре-
делению ученых, вообще с этим дело не имеет. Сознание начинается с сомнения и заканчивается сомнением. Вначале: что это?, почему это?, как это?, а потом верен ли, достоверен ли мой образ, идея обо всем этом? В описанных сценариях системы ИИ лишены сомнения. Проблема создания именно «сверхумной» машины в этом.
Итак, все упирается в соотношение: сомнение — переживание — ценность. Дойдет ли ИИ до ценности, до сознания? А если дойдет, не станет ли система ИИ еще более ошибаться? Ведь сознание, ценность без интереса не существует. Требуется принимать решения на основе разно-мотивационной направленности. Может ли тогда система ИИ саморазрушится? Видимо, поэтому ученые не рекомендуют пока внедрять ИИ в сферы, где его непредсказуемость («ИИ сошел с ума») может плохо закончиться для всего человечества — в инфраструктуру обороны и безопасности. В эпоху систем ИИ должна измениться и система ценностей человечества.
Возникают труднейшие философские и научные вопросы: возможно ли создание искусственных психических структур? Как возможна самоорганизация роботизированных систем? Ведь пока ученые работают с системами, более простыми, чем мозг, человек. Они более увлечены количественными улучшениями функций интеллектуальной деятельности квазиподобной мозговой структуры человека.
Мы уже видим, как системы ИИ меняют наш мир. Интернет усиливает свое влияние на все важнейшие сферы жизни: социальную, политическую, экономическую, научную, духовную. Замечено отчуждение людей от реального мира, люди меняют его на виртуальный мир и там «живут». Недавно на экраны мира вышел новый фильм Стивена Спилберга «Первому игроку приготовиться». В своей рецензии одна из известных кинокритиков Л. Малюкова отмечает: «Игра — не просто драйв. В игре ты не нищий, <. >а Супермен. Тебе нет преград, потому что море и суша — виртуальные. Там, в игре, — смысл твоей жизни и друзья, которых в реале ты не узнаешь. <. >И остаются там. Зачем биться с реальностью, если можно обрести виртуальную дружбу, виртуальную влюбленность».
Итак, люди вступают в глобальную иммерсив-ную онлайн-игру, обеспечивающую полный эффект присутствия, погружающую в созданную компьютером среду. Цифровая «вселенная» одерживает победу над действительностью. Поэтому Интернет становится важнейшим полем битвы между властными структурами и обществом. Элита начинает чувствовать, что информационное общество, системы ИИ могут привести к уменьшению их власти. Возможно, что информационное общество — это путь к созданию новых форм общественной жизни, путь к ликвидации национальных государств и политики.
1. Азимов, А. Я, робот : сборник / А. Азимов. — М., 2003.
2. Бурцев, М. «У Илона Маска — параноидальный подход». Как технологии искусственного интеллекта меняют жизнь и мировую экономику / М. Бурцев // Новая газета. — 2018. — № 22. — 2 марта. — С. 8—9.
3. Майк Бутчер отвечает на ваши вопросы. — URL: https://thequestion.ru/interview/2936/maik-butcher.
4. Дрекслер, К. Э. Машины создания: Грядущая эра нанотехнологий / К. Э. Дрекслер, М. Мински. — Оксфорд, 1986.
5. Интервью с Илоном Маском. — URL: ttps://www.popmech.ru/technologies/13267-intervyu-s-elonom-maskom.
6. От сообщества приматов — к невообразимому будущему // Новая газета. — 2016. — № 88. — URL: https://www.novayagazeta.ru/issues/2434.
7. Тимур Палташев о том, насколько велики успехи в создании искусственного интеллекта и насколько опасны. — URL: https://ya-r.ru/2017/09/18/timur-paltashev-o-tom-naskolko-veliki-uspehi-v-sozdanii-iskusstvennogo-intellekta-i-naskolko-opasny.
8. Турчин, А. В. Структура глобальной катастрофы / А. В. Турчин. — М., 2010;
9. Турчин, А. В. Футурология. XXI век. Бессмертие или глобальная катастрофа? / А. В. Турчин, М. А. Бахтин. — М., 2013. — URL: https://libking.ru/books/nonf-/nonf-publicism/205876-aleksey-turchin-rossiyskaya-akademiya-nauk.html.
10. Кехлан-Джонс, Р. Хокинг: искусственный интеллект — угроза человечеству / Р. Кехлан-Джонс. — URL: https://www.bbc.com/russian/science/2014/12/141202_hawking_ai_danger.
11. Бистром, Н. Искусственный интеллект. Этапы. Угрозы. Страсти / Н. Бистром. — М., 2015. — URL: https://www.bookcity.club/2977/
12. Встреча на вершине. Игры разума с Т. Черниговской. 2014—2015. — URL: http://tvkultura.ru/ video/show/brand_id/57589/episode_id/1169106.
Сведения об авторе
Кузнецов Владимир Александрович — доктор исторических наук, профессор кафедры философии, Челябинский государственный университет, Челябинск, Россия. vladkuz@mail.ru
Bulletin of Chelyabinsk State University. 2019. No. 8 (430). Philosophy Sciences. Iss. 53. Pp. 5—10.
The evolution of artificial intelligence (AI) systems, the emergence of digital and other supertechnologies and their impact on changing social reality, on the creation of a new quality of social life
Chelyabinsk State University, Chelyabinsk, Russia. vladkuz@mail. ru
The article attempts to highlight the impact of new advanced technologies (artificial intelligence, robotics, etc.)
on the change in the life of mankind and personality. The content of the stated theme actually brings us to the
problem of the future society and above all in its socio-economic and spiritual spheres.
Keywords: artificial intelligence, Internet, computer networks, neural network, robot, thinking, consciousness,
1. Azimov A. Ya, robot [I am a robot]. — Moscow, 2003. (In Russ.).
2. Burtsev M. «U Ilona Maska — paranoidal’nyi podkhod». Kak tekhnologii iskusstvennogo intellekta menyayut zhizn’ i mirovuyu ekonomiku [«Elon Musk has a paranoid approach.» How artificial intelligence technology is changing life and the global economy]. Novaya gazeta [New Newspaper], 2018, no. 22, Marth 2, pp. 8—9. (In Russ.).
3. Maik Butcher otvechaet na vashi voprosy [Mike Butcher answers your questions]. Available at: https:// thequestion.ru/interview/2936/maik-butcher. (In Russ.). (In Russ.).
4. Dreksler K.E., Minski M. Mashiny sozdaniya: Gryadushchaya era nanotekhnologii [Creation Machines: The Coming Era of Nanotechnology]. — Oksford, 1986. (In Russ.).
5. Interv’yu s Ilonom Maskom [Interview with Elon Mask]. Available at: ttps://www.popmech.ru/ technologies/13267-intervyu-s-elonom-maskom. (In Russ.).
6. Ot soobshchestva primatov — k nevoobrazimomu budushchemu [From the primacy community to an unimaginable future]. Novaya gazeta [New Newspaper], 2016, no. 88. Available at: https://www.novayaga-zeta.ru/issues/2434. (In Russ.).
7. Timur Paltashev o tom, naskol ‘ko veliki uspekhi v sozdanii iskusstvennogo intellekta i naskol ‘ko opasny [Timur Paltashev on how great is the success in creating artificial intelligence and how dangerous]. Available at: https://ya-r.ru/2017/09/18/timur-paltashev-o-tom-naskolko-veliki-uspehi-v-sozdanii-iskusstvennogo-intellekta-i-naskolko-opasny. (In Russ.).
8. Turchin A.V. Struktura global’noi katastrofy [Global catastrophe structure]. Moscow, 2010. (In Russ.).
Искусственный интеллект для «чайников»
Вы уже разобрались в том, что такое искусственный интеллект?
За последние полгода огромной популярностью стали пользоваться чат-боты вроде ChatGPT и генераторы картинок типа Midjourney.
Однако эволюция искусственного интеллекта (AI или ИИ) и машинного обучения идет уже далеко не первый год.
В этом руководстве для начинающих мы познакомим вас не только с чат-ботами, но и с другими видами AI. Мы расскажем о том, какую роль в нашей жизни уже сейчас играют алгоритмы.
Как происходит обучение AI?
В основе работы любой умной машины лежит процесс, известный как обучение алгоритма, когда в компьютерную программу вкладывают для анализа огромный объем данных (иногда с поясняющей разметкой) и набор инструкций.
Инструкции могут выглядеть примерно так: «Отбери из этих фотографий те, на которых есть лица» или «Отсортируй эти звуки по заданным категориям».
Программа начинает «прочесывать» (анализировать) имеющуюся в ее распоряжении информацию в поисках закономерностей — в соответствии с поставленной задачей.
Получаемые в процессе обработки результаты необходимо постоянно корректировать, помечая ошибки программы — например, «это не лицо» или эти два звука относятся к разным категориям». Однако на выходе, по итогам анализа всех имеющихся данных, мы получаем «умную» или, скорее, «натренированную» модель, неплохо справляющуюся с поставленной задачей. То есть алгоритм.
Чтобы лучше понять, как в результате такого обучения получаются различные виды AI, можно сравнить их с разными видами животных.
Как у животных под влиянием окружающей среды за миллионы лет эволюции развились те или иные характерные особенности, так и AI, миллионы раз проанализировавший одну и ту же базу данных, приобретает необходимые навыки, все лучше и лучше справляясь с поставленной задачей.
Давайте рассмотрим несколько видов AI, приспособленных для решения разного рода задач.
Что такое чат-боты?
Чат-бот напоминает попугая, который может повторять услышанные слова и даже до некоторой степени соотносить их с контекстом, но значение этих слов (если допустить, что он вообще различает отдельные слова) попугаю известно лишь очень приблизительно.
Чат-боты делают примерно то же самое, только на значительно более сложном уровне — и, кажется, вскоре могут полностью изменить наши отношения с письменной речью.
Но как чат-боты научились писать?
Чат-боты относятся к подвиду AI, известному как «большие языковые модели» (LLM), и их обучают на колоссальных объемах текста, совершенно немыслимых для человека.
LLM может сравнивать не только отдельные слова, но и целые предложения, а также анализировать, в каком контексте использованы те или иные слова и выражения в различных отрывках, находя их поиском по всей имеющейся в распоряжении алгоритма базе данных.
Используя эти миллиарды сравнений между словами и фразами, он может прочитать вопрос и сгенерировать ответ — вроде того, какой вы можете получить при обычном обмене текстовыми сообщениями на вашем телефоне.
Удивительная особенность больших языковых моделей заключается в том, что они могут изучать правила грамматики и определять значение слов из контекста самостоятельно, без помощи человека.
Эксперт о будущем чат-ботов
«Думаю, что лет через 10 у нас будут чат-боты, которые станут экспертами в любой необходимой области знания. То есть с их помощью вы сможете задать свой вопрос опытному «врачу,» опытному «учителю», опытному «юристу» — и получить от них квалифицированный ответ».
Могу ли я поговорить с AI?
Если вы когда-либо пользовались Alexa, Siri, Алисой или любым другим голосовым помощником, значит, вы уже разговаривали с AI.
Представьте себе кролика, длинные уши которого специально приспособлены для того, чтобы различать малейшие изменения звука.
Когда вы говорите с голосовым помощником, AI записывает вашу речь, фильтрует фоновый шум, раскладывает фразу на отдельные звуки и слоги — а затем сопоставляет каждый из них их с огромной базой данных — библиотекой звуков того или иного языка.
На их основе AI воссоздает произнесенную фразу в текстовом виде, причем любые допущенные на этом этапе ошибки прослушивания можно скорректировать до того, как будет дан ответ.
Такой тип AI называют обработкой естественного языка (NLP).
Именно этот принцип лежит в основе технологий, которая позволяет вам подтвердить голосом по телефону банковскую транзакцию, просто сказав «да», или попросить мобильный телефон показать вам прогноз погоды на ближайшие несколько дней в городе, куда вы собираетесь поехать.
Может ли AI распознавать изображения?
Ваш телефон уже предлагал вам отобрать ваши фотографии в папки с названиями вроде «На пляже» или «На вечеринке»?
Если да, значит, вы уже пользовались AI, даже не осознавая этого. Алгоритм обнаружил на ваших снимках некие закономерности и сгруппировал похожие фото.
Такие программы обучают, давая алгоритму для анализа миллионы изображений, сопровожденных простым описанием.
Если вы дадите AI, распознающему изображения, достаточно картинок с пометкой «велосипед», в конце концов он начнет понимать, как выглядит велосипед и чем он отличается от лодки или автомобиля.
Иногда AI специально тренируют находить крошечные различия в похожих изображениях.
Именно так работает система распознавания лиц, способная рассчитать уникальные пропорции каждого лица, отличающие его от любого другого лица на планете.
Работающие по этому принципу алгоритмы научились анализировать медицинские снимки, выявляя злокачественные опухоли на самых ранних этапах формирования, поскольку за время, которое требуется консультанту для детального анализа одного изображения, AI способен обработать тысячи снимков.
Как AI создает новые изображения?
Не так давно появились модели AI, способные не только распознавать изображения, но и изменять на них линии и цвета, подобно хамелеону.
Такие алгоритмы, генерирующие изображения, обладают способностью на основе анализа миллионов изображений идентифицировать их отдельные элементы и даже сложные узоры, собирая из этих деталей новые картинки.
Например, вы можете попросить AI создать «фотографию» вымышленного события — вроде фото человека, идущего по поверхности Марса.
Вы можете задать изображению творческое направление: например, «Нарисуй портрет английского футбольного менеджера в стиле Пикассо».
AI-алгоритмы последнего поколения начинают процесс создания нового изображения с набора случайно окрашенных пикселей.
В этих случайных точках алгоритм ищет любой намек на известный ему шаблон (то есть узор или закономерность построения линий), идентифицированный программой в ходе обучения — на основе таких шаблонов AI и создает новые изображения.
Постепенно шаблоны становятся все лучше. На полученное изображение накладываются все новые и новые слои, в каждом из которых алгоритм сохраняет точки, которые укладываются в искомый шаблон, и отбрасывает все остальные — пока, наконец, изображение не начнет отвечать поставленной задаче.
Получив все необходимые элементы изображения — «поверхность Марса», «астронавт» и «прогулка», — AI складывает их вместе, получая на выходе новую картинку.
Поскольку новое изображение построено из слоев случайных пикселей, в результате получается то, чего раньше никогда не было, но оно по-прежнему основано на миллиардах паттернов, полученных из исходных обучающих изображений.
Сейчас общество начинает задумываться о том, какие последствия это будет иметь для охраны авторских прав и насколько этично создавать новые произведений искусства на основе кропотливого труда настоящих художников, дизайнеров и фотографов.
А что насчет беспилотных автомобилей?
Разговор об автомобилях, не требующих водителя, ведутся уже на протяжении десятилетий и прочно закрепились в массовом воображении благодаря произведениям научной фантастики.
Предназначенные для этой цели алгоритмы известны как программы автономного вождения, и для их работы автомобили необходимо оснастить камерами, радарами и лазерными датчиками.
Представьте себе стрекозу с обзором в 360 градусов и миниатюрными датчиками на крыльях, которые помогают ей маневрировать в процессе полета и постоянно корректировать свою тректорию.
Точно таким же образом AI анализирует показатели датчиков автомобиля, обнаруживая вокруг себя различные объекты, выясняя, движутся ли они, и различая, что это — другой автомобиль, велосипед, пешеход или еще что-нибудь.
Анализ тысяч часов видеозаписи примеров идеального вождения научил AI в реальном мире мгновенно принимать на дороге правильные решения, чтобы управлять автомобилем, избегая столкновений.
Долгие годы алгоритмы пытались найти закономерности в часто непредсказуемом характере водителей, но на сегодняшний деть беспилотные автомобили проанализировали данные, собранные в ходе движения автомобилей по реальным дорогам, проехавших в общей сложности не один миллион километров. И в Сан-Франциско уже работают первые коммерческие автономные такси без водителя.
Автономное вождение также является наглядным примером того, что новым технологиям приходится преодолевать далеко не только технические препятствия.
Перспектива полностью автоматизированного трафика будущего упирается в существующие законодательные нормы и правила техники безопасности, а также в совершенно понятное общественное беспокойство по поводу возможных последствий передачи управления автомобилем от живого человека компьютерному алгоритму.
Эксперт о будущем автономных машин:
«Думаю, никто не будет спорить с тем, что безусловным приоритетом дорожного движения может быть только его безопасность. Особенно интересно слушать рассуждения на эту тему именно сейчас, когда люди и роботы-водители справляются с вождением примерно на одинаковом уровне. Однако, учитывая скорость, с которой совершенствуются алгоритмы, уже через несколько лет разговоры эти уйдут в прошлое. Потому что AI будет водить настолько лучше человека, что и обсуждать там будет совершенно нечего».
Что AI знает обо мне?
Некоторые AI просто работают с числами, собирая и комбинируя их в объеме, чтобы создать рой информации, результаты которого могут быть чрезвычайно ценными.
Скорее всего, уже существует несколько профилей вашей финансовой и социальной активности, особенно онлайн, которые можно использовать для прогнозирования вашего поведения.
Ваша карта лояльности супермаркета отслеживает ваши привычки и вкусы в вашем еженедельном магазине. Кредитные агентства отслеживают, сколько у вас денег в банке и сколько вы должны по кредитным картам.
Netflix и Amazon отслеживают, сколько часов контента вы просмотрели прошлым вечером. Ваши учетные записи в социальных сетях знают, сколько видео вы прокомментировали сегодня.
И не только вы, эти цифры существуют для всех, что позволяет моделям AI анализировать их в поисках социальных тенденций.
Эти модели AI уже формируют вашу жизнь: от помощи в принятии решения о том, можете ли вы получить кредит или ипотеку, до влияния того, как ваш выбор рекламы в интернете влияет на ваши покупки.
Сможет ли AI делать всё?
Можно ли объединить некоторые из этих навыков в единую гибридную модель AI?
Это именно то, что может делать одно из самых последних достижений в области AI.
Он называется мультимодальным AI и позволяет просматривать различные типы данных, такие как изображения, текст, аудио или видео, и выявлять между ними новые закономерности.
Этот мультимодальный подход был одной из причин огромного скачка в возможностях ChatGPT, когда его модель AI была обновлена с GPT3.5, который обучался только на тексте, до GPT4, который также обучался с изображениями.
Идея единой модели AI, способной обрабатывать любые данные и, следовательно, выполнять любые задачи, от перевода между языками до разработки новых лекарств, известна как общий искусственный интеллект (ИИК).
Для некоторых это конечная цель всех исследований искусственного интеллекта; для других это путь ко всем этим научно-фантастическим антиутопиям, в которых мы высвобождаем интеллект настолько далеко за пределами нашего понимания, что мы больше не можем его контролировать.
Как обучать AI?
До недавнего времени ключевой процесс обучения большинства AI был известен как «обучение с учителем».
Огромные наборы обучающих данных были обозначены людьми, и AI попросили выяснить закономерности в данных.
Затем AI попросили применить эти шаблоны к некоторым новым данным и дать отзыв о их точности.
Например, представьте, что вы даете AI дюжину фотографий — шесть помечены как «автомобиль» и другие шесть помечены как «фургон».
Затем попросите AI разработать визуальный шаблон, который сортирует автомобили и фургоны на две группы.
Как вы думаете, что происходит, когда вы просите его классифицировать эту фотографию?
К сожалению, похоже, что AI думает, что это фургон. Он, оказывается, не такой уж и сообразительный.
Теперь вы показываете это.
И это говорит вам, что это машина.
Совершенно ясно, что пошло не так.
Из ограниченного количества изображений, на которых он обучался, AI решил, что цвет — лучший способ отделить автомобили от фургонов.
Но самое удивительное в программе AI то, что она пришла к этому решению сама, и мы можем помочь ей усовершенствовать процесс принятия решений.
Мы можем сказать ему, что он неправильно идентифицировал два новых объекта — это заставит его найти новый шаблон на изображениях.
Но что еще более важно, мы можем исправить смещение в наших обучающих данных, придав им более разнообразные изображения.
Эти два простых действия, взятые вместе — и в огромном масштабе — это то, как большинство систем AI были обучены принимать невероятно сложные решения.
Как AI учится самостоятельно?
Обучение с учителем — невероятно мощный инструмент для обучения, но многие недавние прорывы в области искусственного интеллекта стали возможными именно благодаря обучению без учителя.
Проще говоря, именно здесь использование сложных алгоритмов и огромных наборов данных означает, что AI может учиться без какого-либо руководства со стороны человека.
ChatGPT — самый известный пример.
Объем текста в интернете и в оцифрованных книгах настолько огромен, что за много месяцев ChatGPT смог самостоятельно научиться осмысленно комбинировать слова, а затем люди помогали настраивать его ответы.
Представьте, что у вас есть большая стопка книг на иностранном языке, возможно, некоторые из них с картинками.
В конце концов вы могли бы выяснить, что одно и то же слово появлялось на странице всякий раз, когда был рисунок или фотография дерева, и другое слово, когда была фотография дома.
И вы увидите, что рядом с этими словами часто было слово, которое могло означать «это» или, может быть, «этот» — и так далее.
ChatGPT провел такой тщательный анализ отношений между словами, чтобы построить огромную статистическую модель, которую затем можно использовать для прогнозирования и создания новых предложений.
Он опирается на огромную вычислительную мощность, которая позволяет AI запоминать огромное количество слов — по отдельности, группами, в предложениях и на разных страницах — а затем читать и сравнивать, как они используются, снова и снова за долю секунды. второй.
Быстрый прогресс, достигнутый моделями глубокого обучения в прошлом году, вызвал новую волну энтузиазма и беспокойства по поводу потенциала искусственного интеллекта, и нет никаких признаков того, что он замедлится.
Обещания и предупреждения научной фантастики, кажется, внезапно подкрались к нам, и мы обнаруживаем, что уже живем в мире, где AI начинает раскрывать свои странные нечеловеческие способности.
Экспертное мнение: относитесь к ним как к детям
«Ответ на то, как мы можем подготовить машины для этого этически сложного мира, заключается в том, как мы воспитываем наших собственных детей и готовим их к встрече с нашим сложным миром. Когда мы воспитываем детей, мы не знаем, с какими именно ситуациями они столкнутся. Мы не кормим их с ложки ответами на все возможные вопросы; скорее, мы учим их, как найти ответ самостоятельно».