В последнее время генеративные искусственные интеллекты стали на пике популярности, начало которым положил ChatGPT, а затем Microsoft Bing. С тех пор Google, ускорил разработку своей собственной модели чата ИИ и выпустил Bard в режиме ограниченного доступа, и пока что он кажется неполноценным продуктом по сравнению с конкурентами. Он не справляется с основными вопросами, использует сомнительные источники и в целом выглядит как полуфабрикат.
Если быть полностью справедливым к Google, с этими трудностями роста столкнулся и Bing, а Bard только недавно вышел на рынок. Кроме того, Google не преподносит Bard как поисковую систему, как Microsoft преподносит Bing.
Bard – это взгляд в ужасающе дезинформированное будущее. Он уже несколько раз облажался, и по мере того, как Google пытается сделать собственный ИИ более устойчивым, становится все труднее настроить его так, чтобы он был реально полезным. Чтобы ИИ был полезен, он должен быть динамичным и обладать актуальными знаниями, но это сопряжено с опасностью для всего Интернета, на который он опирается в поиске и обработке информации.
Google Bard пытается, но у него не получается быть поисковой системой
Google постоянно говорит, что Bard – это не поисковая машина, а “дополнение к поиску”. Похоже, что Google хочет, чтобы вы использовали Bard как средство для создания электронных писем, написания заметок и других творческих занятий… а не для получения информации.
Если Google не хочет, чтобы Bard воспринимался как поисковая система, тогда зачем он подключен к Интернету?
Как отмечают многие пользователи (с юмором), вы можете задать Bard вопросы, для которых ему определенно нужен интернет, и он, как и вы, начнёт искать информацию в сети, чтобы дать вам адекватный ответ.
Если бы он был создан просто для помощи в творчестве, компания могла бы легко сделать его более похожим на ChatGPT и просто сделать так, чтобы он мог отвечать на вопросы только по тем темам, которым его обучили.
Однако это не так, и если вы зададите ему вопросы, на которые он не знает ответа, он начнёт поиск в интернете самостоятельно.
Например, пользователь спросил у Bard, сколько времени потребуется, чтобы Bard закрылся. В ответ был получен шуточный комментарий на Hacker News, в котором говорилось, что сервис уже закрыт:
the best part? it listed this hacker news comment from 6 hours ago as its only source https://t.co/WGpGaj5d1R pic.twitter.com/u18NIfjMlQ — juan (@juanbuis) March 21, 2023
Очевидно, что Bard еще не готов стать поисковой машиной, и я предполагаю, что именно поэтому он не рекламируется Google.
Вы не должны использовать его в качестве поисковой машины по той простой причине, что в данный момент времени он, похоже, не способен быть таковой. Он может находить факты, но у него нет возможности проверить их подлинность, и если он может привести в качестве ответа случайный комментарий на Hacker News о закрытии самого себя, становится ясно, что в этой области необходимо проделать большую работу, прежде, чем говорить о каком-то более менее стабильном результате в работе ИИ.
Bard, ChatGPT и Bing против будущего дезинформации
Дезинформация уже является невероятно распространенной темой в современном обществе, а искусственные интеллекты, не имеющие системы координат для того, чтобы оценить то, что они сообщают конечному пользователю, могут как никогда способствовать её распространению.
Барда уже обвинили в плагиате Tom’s Hardware, который, когда ему возразили, обвинил пользователя во лжи. Если вы думаете, что некоторые из этих слов похожи на фразу “Я был хорошим Bing 😊”, вы будете правы.
Это те же самые подводные камни, с которыми уже сталкивалась компания Microsoft, и эту проблему трудно обойти, не ограничивая ИИ слишком сильно. Когда ИИ говорит, что что-то является ложью, что не является ложью, он напрямую способствует дезинформации, даже если это касается бытовых тем.
Bard – не единственный генеративный ИИ, обвиненный в распространении дезинформации, но он, безусловно, является яркой демонстрацией этой проблемы. Практически невозможно гарантировать, что ИИ предоставляет конечному пользователю только правдивые факты, особенно когда речь идет о поиске свежей информации.
В чем вы доверяете ИИ? Для меня это практически все, на что способен Google Assistant… прежде всего, доступ к уже собранным данным. Можно доверять тем данным, которые уже были собраны людьми для ИИ и на которых он обучался, он просто считывает их из базы данных, но не пытается обобщить их, собрать и классифицировать самостоятельно.
В настоящее время мы находимся на перепутье. С одной стороны, ИИ с каждым днем становится все мощнее и мощнее. Подобные языковые модели становятся все более популярными, и большинство людей, только увидев их эффективность, сразу же начинают их использовать; черт возьми, ChatGPT – самое быстрорастущее потребительское приложение в истории с точки зрения времени, которое потребовалось, чтобы достичь ста миллионов пользователей. Тем не менее, подобные программы обладают невероятным влиянием, когда их содержание не контролируется и не проверяется.
Это не означает, что эти инструменты ИИ никогда не будут хорошими, но весьма вероятно, что в будущем они будут способствовать дезинформации, и с этим будет трудно бороться.
Facebook уже удается убеждать людей во всевозможных теориях заговора, а ИИ с именем Google (или Microsoft, или OpenAI) почти наверняка в какой-то момент будет способствовать распространению теорий заговора или иных идей, выгодных определённой группе лиц.
Я Тимур, энтузиаст и практик в области мобильной техники Xiaomi. За последние годы через мои руки прошли десятки смартфонов и устройств экосистемы, которые я настраивал, перепрошивал и «лечил» от самых разных ошибок. На этом сайте я собираю свой опыт в виде подробных инструкций и разборов, чтобы вы могли быстрее и безопаснее решать проблемы со своими Xiaomi, Redmi и POCO.
