03.11.2023      41      0
 

Лучшая книга для тех, кто хочет понять, как работает искусственный интеллект


Каждый день мы видим и слышим всё больше новостей о нейросетях, или как их ещё называют маркетологи искусственном интеллекте.

Шумиха поднялась не шуточная, многие уверены в том, что ИИ скоро заменит многие профессии, разрушит бизнесы, нарушит связи и создаст глобальный хаос.

Другие считают искусственный интеллект всемогущим, всеведущим и верят, что он создаст для людей дивный новый мир.

И, как это бывает в жизни, почти все ошибаются.

Сегодня я хочу порекомендовать вам книгу «Кокетливый интеллект» Джанель Шейн.

В этой книге простым языком объясняется о базовых принципах работы современных нейросетей, как их тренеруют, обучают, проверяют и запускают в свободное плавание.

Показано на что современный ИИ способен, какие задачи ему решать легко, а с какими он справится не может без помощи человека.

Но главное – наглядно показано как он работает, как обучается и что от него ждать в ближайшее будущее.

Тема AI стала настолько заезженной, и даже сверх популярной, что рядовому человеку, который не связан с IT, тяжело понять, как на самом деле работают нейросети.

На этом спекулируют журналисты, раздувая любой инфоповод, касаемый ИИ до небес, вызываю шок и трепет.

Поэтому очень важно понимать принципы, на которых работают современные алгоритмы ИИ, как они создаются, используются и кто их контролирует.

Всё это доходчиво и увлекательно рассказывается в книге «Кокетливый интеллект».

В чём достоинство книги «Кокетливый интеллект»

Тренировка нейросети
Заслуга книги в том, что в ней не только понятно и просто объясняются принципы работы AI, но и приводится много примеров. Все примеры иллюстрированы, наглядны и понятны любому читателю.

При этом автор не настаивает на своей точки зрения, не пытается вас переманить на свою сторону. Она лишь объясняет как всё работает. И это самое важное, ведь теперь, когда вы понимаете реальные основы работы искусственного интеллекта, вы способны здраво оценить то, что вам пишут в новостях и говорят люди из телевизора.

Теперь вы сами способны анализировать, сопоставлять и понимать, кто говорит правду, а кто пытается манипулировать вашим мнением.

Несколько примеров из книги «Кокетливый интеллект»

Результат работы нейросети
Приведу несколько примеров из книги, чтобы вам было понятно, каким языком она написала и в каком стиле выполнена.

Первое, о чём вам рассказывает автор – древняя мудрость программистов, которые говорят: мусор на входе – мусор на выходе.

Это основной принцип работы любого программиста, и нейросети. Если нет конкретно поставленной задачи, и нет понятных, реальных и проверенных данных, над которыми требуется совершить работу, то результат будет столь же неопределённым и малополезным, а порой и вредным.

Современные нейросети не способны сами постичь тот результат, который от них требуют разработчики.

Нейросеть – это алгоритм перебора огромного числа данных, чтобы выполнить поставленную цель.

Современные алгоритмы ИИ обучаются на больших массивах данных, которые для них подготовили люди. Это могут быть тексты, картинки, видео и прочее – все данные очистили, проверили и разметили специально обученные сотрудники.

Только в том случае, когда вы обучаете ИИ на хороших данных, он будет работать так, как требуется. Если же данные плохого качества, результат работы нейросети также будет малополезным.

Мы представляем себе процесс подготовки данных, как понятный, простой, хоть и монотонный процесс. И кажется, что тут сложностей возникнуть не должно.

Вот только люди, которые занимаются разметкой, обычно работают на контракте, в котором указано, что чем больше они обработают данных, тем больше заработают. Вы уже понимаете в чём проблема?

Как только человек понимает, что его заработок зависит от количества, а не качества, он начинает мгновенно жертвовать качеством работы в пользу количества.

А т.к. массив данных для обучения нейросети требуется очень большой, то и проверить все размеченные данные невозможно.

Следовательно, нейросеть обучают на данных, которые формально очищены и размечены человеком, но на практике там довольно много мусора.

Отсюда и возникают многочисленные ошибки в работе ИИ.

Другой пример, который хочу привести – ИИ не понимают, что делают, они лишь большие и быстрые калькуляторы, которые следуют алгоритмам обработки данных.

Пример того, как нейросеть видит процесс набора текста на виртуальной клавиатуре Gboard

Пример того, как нейросеть видит процесс набора текста на виртуальной клавиатуре Gboard


Все мы с вами пользуемся смартфонами, а на них без виртуальной клавиатуры никуда – это единственный метод ввода информации.

Если несколько лет назад вы пользовались клавиатурой Gboard, то замечали, что она, порой, подсказывает следующее слово для ввода совершенно неподходящее тому, что вы хотите написать.

Так работает простая нейросеть, которая пытается предсказать слово, которое следует за тем набором слов, которые вы уже набрали. Иногда это помогает и ускоряет ввод, но часто и выглдяет совершенно неуместно.

Например, вот какой пример подобной работы ИИ приводит в книге Даан ван Эш, работающий в Google над клавиатурой Gboard: «До какого-то момента, если вы печатали “Я собираюсь к бабушке на”, Gboard автоматически подставлял “похороны”».

Понятно, что в подавляющем большинстве случаев это не только ошибочное слово, но оно ещё вызывало негативную эмоциональную оценку работы нейросети.

Ещё один пример от разработчиков из Google.

В качестве эксперимента они натренировали нейросеть на распознование образов рисунков, которые человек рисует карандашом. Они добыли миллионы рисунков и с их помощью провели обучение ИИ.

Среди этих миллионов рисунков люди рисовали около трёх сотен объектов.

На фото из книги приведён пример одного из набора таких рисунков, где люди рисовали кенгуру.
Пример с кенгуру из книги Кокетливый интеллект
Если теперь попросить человека нарисовать кенгуру, алгоритм легко это распознавал и писал, что человек нарисовал кенгуру.

Но если человек рисовал что-то, чего не было среди трёх сотен объектов, на которых учили нейросеть, она не могла распознать объект вообще, делая лишь предположения, которые были очень далеки от истины.

Например, разработчики рисовали курительную трубку, которой не было в данных, на которых ИИ обучали. И она делала предположения, что это либо лебедь, либо садовый шланг, т.е делал очевидную ошибку.

Из этого следует, что крайне важно понимать, каким образом тренировали нейросеть, на каких данных и для каких задач.

Нельзя слепо доверять результату работы ИИ, если вы чётко не понимаете для каких задач она создавалась и какую работу умеет выполнять хорошо, а какую не может выполнить вовсе.

Ещё один пример, теперь для разнообразия графический.

Современная нейросеть уже умеет хорошо рисовать, как маленькая девочка ест торт - результат долгой тренировки и работы над ошибками

Современная нейросеть уже умеет хорошо рисовать, как маленькая девочка ест торт – результат долгой тренировки и работы над ошибками


Разработчики взяли нейросеть, которую обучали делать рисунки, как современные алгоритмы DALL-E и ей подобную, но попроще. Просили нарисовать девочку, которая ест кусок торта. Кажется, будто задача простая.

Однако, нейросесть обучалась на данных, в котором было очень мало изображений девочки и торта.

Поэтому результатом стало изображение, на котором человек не мог узнать ни человека, ни торт, ни процесс принятия пищи. Это был полный абстракционизм, кажущийся случайным набором образов и процессов, запечатлённых на картинке.

Однако, на этом эксперимент не остановился, и разработчики попросили другую нейросеть, которая также тренировалась на том же наборе данных, объяснить, что она видит на этой картинке.

И нейросеть ответила: я вижу девочку, которая ест торт.

Отсюда следует вывод: алгоритмы не понимают суть, у них нет понятия здравый смысл или даже конечного образа. Они лишь выполняют алгоритмы, которые обучили на конкретном наборе данных.

Поэтому если одну нейросеть на одном наборе данных чему-то обучить, и с точки зрения человека она будет создавать полную несуразицу, но вторую нейросеть попросить объяснить, что она видит, она укажет на тот же результат, который просили создать первый ИИ.

Но для человека это будет неприменимо.

Выводы

Искусственный интеллект думает
Мы должны чётко понимать, что нейросеть – это ни магия, ни волшебство, и не должны полностью полагаться на результат работы ИИ.

Мы должны заранее понимать на каком типе данных ИИ тренировался, и какие задачи он решать предназначен.

Кроме того, мы, люди, не можем проверить то, как думает нейросеть во время генерации ответа на запрос, для нас это чёрный ящик.

Поэтому как никогда актуальна поговорка: доверяй, но проверяй.

Алгоритмы нейросети не понимают нас в том смысле, какой мы, люди, вкладываем в это слово. Они действуют согласно заложенному в них механизму.

Именно по этой причине важно уметь формулировать задачу для ИИ так, чтобы она её верно интерпретировала согласно данным, на которых её учили, и дала хороший результат.

По этой причине в интернете становятся всё популярнее наборы промтов, т.е. заданий для каждого из вида ИИ.

Сейчас очень популярен ChatGPT, и для него уже лежат тысячи и десятки тысяч промтов для решения самых разных типов задач.

Если вы хотите получать хорошие результаты от работы с ИИ – учитесь писать промты так, чтобы нейросеть понимала, что вы от неё хотели. Но, опять таки, слово «Понимать» тут использовано для вашего удобства. На самом деле хороший промт содержит те слова и в той последовательности, в которой они ассоциированы с данными, на которых обучали сеть, чтобы далее она их обработала в нужной последовательности для достижения ожидаемого результата.

Книга «Кокетливый интеллект» хороша тем, что написана простым языком, чтобы её поняли даже те люди, которые никогда не занимались разработкой программного обеспечения, и даже не связаны c IT.

Прочитав её у вас исчезнет ощущение магии, вы начнёте понимать, что под силу той или иной нейроести, а что нет. А также сможете легко понять, когда она сработала хорошо, а когда результат работы необходимо игнорировать.

Знания дают вам силу понять сложные технологии без необходимости их глубокого изучения, а следовательно, для вас они станут понятны и исчезнет страх от будущего бок о бок с ИИ.


Об авторе: MiMaster

Привет, меня зовут Тимур. Я с детства увлекался компьютерами и IT-Индустрией, мне это нравится, это моя страсть. Последние несколько лет глубоко увлёкся компанией Xiaomi: идеологией, техникой и уникальным подходом к взрывному росту бизнеса. Владею многими гаджетами Xiaomi и делюсь опытом их использования, но главное - решением проблем и казусов, возникающих при неожиданных обстоятельствах, на страницах сайта mi-check.ru

Ваш комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Для отправки комментария, поставьте отметку, что разрешаете сбор и обработку ваших персональных данных . Политика конфиденциальности