На минувшей неделе Google добавила в поисковую систему блок сводок, которые готовит генеративный ИИ. Компания стремилась повысить качество работы поисковой системы, но ИИ начал давать пользователям странные ответы, например, советовал есть камни и клеить сыр к пицце. Компания быстро удалила наиболее скандальные результаты, но они уже успели уйти в мемы. Теперь с комментариями выступила глава поискового подразделения компании.

Источник изображения: Kai Wenzel / unsplash.com

Глава отдела поиска Google Лиз Рид (Liz Reid) обвинила в неточных результатах ответов поискового генеративного ИИ «пустоты данных» и самих пользователей, которые придумывали странные вопросы. По её мнению, блоки с обзорами, которые создаёт генеративный ИИ, дают пользователям «большее удовлетворение» работой поисковой службы. Генерируемые ИИ ответы, как правило, не являются галлюцинациями — просто система иногда неверно интерпретирует то, что есть в Сети.

«Нет лучшего аргумента, чем миллионы людей, использующих эту функцию со множеством новых запросов. Мы также отметили новые бессмысленные запросы, по-видимому, направленные на получение ошибочных результатов», — сообщила Рид. Компания, однако, продолжает работать над функцией, ограничивая появление ИИ-обзоров в выдаче по «бессмысленным» запросам и при работе с сатирическими материалами. Это важно, потому что первоначально система могла процитировать сатирический ресурс или сослаться на пользователя соцсети с неприличным ником.

Рид также сравнила ИИ-обзоры с поисковой функцией «Выделенные описания» — это блоки с фрагментами текста релевантных веб-страниц, которые приводятся без участия генеративного ИИ. По словам топ-менеджера, «уровни точности» двух функций примерно совпадают.

Apple планирует модернизировать своего виртуального помощника Siri, чтобы пользователи смогли управлять отдельными функциями приложений при помощи голосовых команд. Возможно это станет благодаря внедрению в Siri более совершенной технологии искусственного интеллекта на основе больших языковых моделей (LLM).

Источник изображения: Vinoth Ragunathan/Unsplash

По словам инсайдеров, знакомых с планами компании, обновлённая Siri сможет впервые полноценно управлять функциями приложений на устройствах Apple. Например, можно будет при помощи голосовой команды открывать конкретные документы, перемещать заметки между папками, удалять письма из почты, запускать определённые новости в приложении Apple News, делиться веб-ссылками и многое другое.

В настоящее время возможности Siri по управлению приложениями сильно ограничены. Он может запускать музыку, искать информацию в интернете, управлять умной техникой, но не может взаимодействовать с конкретными опциями и данными внутри приложений.

По данным Bloomberg, обновление Siri станет ключевым анонсом на ежегодной Всемирной конференции разработчиков Apple WWDC 2024, которая пройдёт 10 июня. На ней также будет представлен целый ряд других интересных вещей, касающихся искусственного интеллекта для экосистемы Apple. В частности, расшифровка аудиозаметок, автоматическое создание кратких сводок веб-страниц и уведомлений, ответы на сообщения, расширенные инструменты редактирования фото на основе ИИ и многое другое.

Реализация новой функциональности Siri потребовала полной переработки базового ПО с использованием нейросетей. Очень скоро Siri сможет обрабатывать команды последовательно, а в будущем справляться и с более сложными запросами. Например, можно будет в одном запросе попросить сначала расшифровать аудиозапись встречи, затем выделить ключевые моменты и отправить резюме коллеге.

Стоит отметить, что данные будут обрабатываться несколько способами — локально или в облаке. При этом система сама будет определять, где именно — на устройстве пользователя или на серверах компании. Это вызывает некоторые вопросы к приватности, однако Apple заверяет, что конфиденциальные данные будут надёжно защищены благодаря системе Apple Chips in Data Centers (ACDC).

Очевидно, что Apple стремится вернуть Siri лидерство в среде виртуальных помощников, которое он утратил в последние годы на фоне более продвинутых решений Amazon и Google. Кроме того, компания рассчитывает, что новые функции ИИ подстегнут продажи iPhone, iPad и Mac новых моделей. Выпуск обновлённого Siri запланирован не раньше осени 2024 года в составе iOS 18.

Центры обработки данных, предназначенные для обучения и работы алгоритмов искусственного интеллекта, потребляют огромные объёмы энергии, а крупные технологические компании стремятся снизить число сбоев и нормировать подачу питания. Собственное решение этой проблемы предложила немецкая Infineon — сверхмощные блоки питания для нынешних и перспективных серверов.

Источник изображений: infineon.com

Infineon анонсировала блоки питания нового поколения, которые будут работать в ЦОД, ориентированных на облачные серверы и алгоритмы ИИ. Они обеспечат мощность до 12 кВт, объединяя компоненты из трёх полупроводниковых материалов на модуле. Первые модели номинальной мощностью 8 кВт поступят в продажу в I квартале 2025 года, а сроки выхода более мощных блоков питания пока не уточняются. На модуле устанавливаются компоненты из кремния (Si), карбида кремния (SiC) и нитрида галлия (GaN) — это сочетание помогло существенно повысить энергетические характеристики, эффективность и надёжность. Блоки питания мощностью 12 кВт обеспечат КПД до 97,5 %, а модели на 8 кВт смогут работать в ИИ-стойках мощностью 300 кВт и выше.

Нитрид галлия — материал, который помог в последние годы уменьшить размеры потребительских зарядных устройств; а карбид кремния призван обеспечить высокую эффективность при высоких уровнях напряжения. SiC используется в преобразователях постоянного тока в электромобилях, и он также способен работать в системах с подачей высокой мощности на ИИ-ускорители. Из-за широкого распространения чат-ботов нового поколения и различных служб на основе ИИ потребности ЦОД в энергоресурсах существенно выросли. Infineon отмечает, что её новые блоки питания помогут этим объектам снизить энергопотребление за счёт высоких КПД, а также сократить выбросы парниковых газов и уменьшить операционные расходы.

К 2030 году на ЦОД будут приходиться 7 % мирового потребления энергии, гласят отраслевые прогнозы. Современные производительные ИИ-ускорители потребляют до 1 кВт на чип, а к концу десятилетия этот показатель вырастет до 2 кВт. Занимающиеся ИИ крупные технологические компании уже ощутили влияние этого растущего спроса на электроэнергию: так, Amazon была вынуждена нормировать ресурсы, чтобы избежать сбоев в работе своих ЦОД в Дублине.

Французский стартап Mistral AI, поддерживаемый Microsoft, объявил о выходе своей первой модели генеративного ИИ для генерации кода и работы с ним, получившей название Codestral.

Источник изображения: geralt/Pixabay

Codestral обучена более чем 80 языкам программирования, включая Python, Java, C++ и JavaScript, и обладает способностями выполнять функции кодирования, писать тесты и «заполнять» частичный код, а также отвечать на вопросы о кодовой базе на английском языке, сообщила команда Mistral AI в своём блоге.

Компания Mistral AI назвала в описании ИИ-модель «открытой», хотя с оговорками. Лицензионное соглашение запрещает использование Codestral и других продуктов для любой коммерческой деятельности. Есть исключение для разработки, но опять с оговорками: лицензия Mistral AI прямо запрещает «любое внутреннее использование сотрудниками в контексте деловой деятельности организации».

Возможно, причина появления ограничений в лицензии кроется в том, что Codestral частично обучалась работе с контентом, защищённым авторским правом. Впрочем, стартап не подтвердил это, но и не опроверг. По словам ресурса TechCrunch, есть свидетельства того, что предыдущие наборы обучающих данных стартапа содержали контент, защищённый авторским правом.

TechCrunch утверждает, что Codestral не подходит для большинства разработчиков, поскольку, имея 22 млрд параметров, требует значительных вычислительных ресурсов. И хотя по некоторым критериям эта модель, возможно, превосходит конкурентов, это вряд ли можно назвать прорывом, считают аналитики TechCrunch.

Разработчики используют инструменты генеративного ИИ для выполнения некоторых задач кодирования. Согласно опросу Stack Overflow, проведённому в июне 2023 года, 44 % разработчиков подтвердили использование инструментов генеративного ИИ, а 26 % сообщили о планах использовать их в ближайшем будущем. Однако у этих инструментов есть вполне очевидные недостатки, ведущие к ошибкам в программировании. Согласно исследованию Университета Пердью, более половины ответов на вопросы по программированию чат-бота OpenAI ChatGPT неверны.

Тем не менее, Mistral AI запустила версию Codestral на своей диалоговой ИИ-платформе Le Chat, а также представила платный API.

Пользователи бесплатного варианта ChatGPT получили доступ к созданным сообществом спецверсиям моделей GPT — с ними можно анализировать диаграммы, задавать вопросы о фотографиях и работать с другими функциями, которые в начале мая получила официальная GPT-4o.

Источник изображения: ilgmyzin / unsplash.com

Ранее такие функции как ответы с веб-поиском, анализ данных, создание диаграмм, машинное зрение, загрузка файлов, память контекста и спецверсии GPT были доступны лишь для пользователей тарифов ChatGPT Plus, Teams и Enterprise — теперь же они открыты для всех, кто пользуется ChatGPT. А вот своих собственных версий GPT пользователи бесплатного варианта ChatGPT создавать пока не могут.

Источник изображения: OpenAI

Функции аналитики данных и создания диаграмм позволяют напрямую подключать хранилища OneDrive и Google Drive к ChatGPT. Разработчики специальных версий GPT также могут участвовать в программе распределения доходов, которую OpenAI в тестовом режиме запустила в марте.

Источник изображения: OpenAI

У платных подписчиков есть ещё одно преимущество — менее жёсткие ограничения на число сообщений. Когда пользователи бесплатной платформы достигают лимита сообщений в чате с GPT-4o, они автоматически переключаются на менее мощную GPT-3.5. Голос ИИ Sky, до степени смешения напоминающий голос Скарлетт Йоханссон (Scarlett Johansson) даже самой актрисе, пока остаётся недоступным.

Европейский Союз представил структуру нового Управления по искусственному интеллекту (ИИ), которое будет играть ключевую роль в формировании европейской экосистемы ИИ в ближайшие годы. Управление создается в соответствии с новым Законом об искусственном интеллекте ЕС, который, как ожидается, вступит в силу до конца июля.

Источник изображения: Copilot

Управление будет выполнять двойную функцию — помогать регулировать риски, связанные с ИИ, и способствовать внедрению инноваций в этой сфере. Оно также призвано оказывать глобальное влияние, поскольку многие страны формируют свои собственные подходы к управлению.

Как сообщает издание Tech Crunch, Управление будет состоять из пяти основных подразделений. Первое будет отвечать за обеспечение соблюдения новых законов об ИИ в государствах-членах ЕС. Оно будет поддерживать связь с национальными регулирующими органами, оказывать им содействие в гармонизированном применении законодательства, а также выявлять и расследовать возможные нарушения. Данный блок сможет налагать санкции на нарушителей.

Второе подразделение AI Safety сосредоточится на безопасности и анализе рисков, создаваемых передовыми моделями искусственного интеллекта, например такими как ChatGPT. Особое внимание будет уделено высокоэффективным моделям общего назначения (GPAI). Сотрудники будут заниматься выявлением системных рисков таких моделей, разработкой мер по их смягчению, а также тестировать их.

Подразделение Excellence in AI and Robotics будет координировать и финансировать научные исследования и разработки в сфере ИИ в ЕС. Оно также будет работать над модернизацией европейских суперкомпьютеров для поддержки обучения передовых моделей.

Четвертый блок AI for Social Good посвящен теме «ИИ на благо общества». В его задачи войдёт разработка и реализация крупных проектов с положительным социальным эффектом от применения этой технологии. Это могут быть проекты в таких сферах, как медицинская диагностика, моделирование погоды, восстановление объектов культурного наследия и др.

И наконец четвёртое подразделение «Инновации и координация политики в сфере ИИ» будет отвечать за реализацию стратегии ЕС в области ИИ. В его задачи будет входить мониторинг тенденций и инвестиций, стимулирование внедрения технологий ИИ в промышленность, поддержку стартапов и создание инновационной экосистемы.

Таким образом, три из пяти подразделений будут сосредоточены на содействии инновациям и внедрению технологий, что должно развеять опасения в том, что новые правила не смогут тормозить развитие этого сектора. В то же время два подразделения будут обеспечивать контроль за соблюдением требований закона и безопасности.

Управление ИИ уже активно формирует штат сотрудников. В настоящее время там работает около 60 человек, но в ближайшие годы численность персонала должна вырасти до 140. Это будут технические эксперты, юристы, экономисты и другие профильные специалисты. Одна из важнейших задач Управления — подготовка руководств и кодексов передовой практики для разработчиков ИИ. Эти документы должны временно заполнить пробел до полного вступления в силу всех положений Закона. Первый Кодекс планируется опубликовать уже этим летом.

Ян Лейке (Jan Leike), который прежде был в OpenAI одним из руководителей отдела безопасности и занимался долгосрочными рисками, связанными с ИИ, перешёл на работу в конкурирующую компанию Anthropic. Об этом Лейке сообщил в соцсети X.

Источник изображения: anthropic.com

Лейке ушёл из OpenAI вслед за её сооснователем Ильёй Суцкевером (Ilya Sutskever) — вместе они возглавляли подразделение Superalignment, но оно было распущено, просуществовав менее года. Уходя, он раскритиковал OpenAI, заявив, что «культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами». Накануне стало известно, что в компании был сформирован новый отдел безопасности во главе с генеральным директором Сэмом Альтманом (Sam Altman).

Источник изображения: x.com/janleike

В Anthropic Ян Лейке будет заниматься теми же вопросами, что и в OpenAI — вопросами безопасности, касающимися моделей ИИ, которые превзойдут возможности человека. Таких моделей пока не существует, но OpenAI и Anthropic уже проводят исследования на предмет того, как ими можно будет управлять. Созданная выходцами из OpenAI компания Anthropic позиционирует себя как более ориентированную на безопасность.

Искусственный интеллект сильно повлияет на разработку ПО уже к началу будущего десятилетия, считают учёные из Университета Лугано (Швейцария). По их мнению, ИИ будет не только помогать в написании кода, но и позаботится о психическом здоровье разработчиков.

Источник изображения: GrumpyBeere / pixabay.com

Рассматривая этапы реализации жизненного цикла разработки ПО, они говорят о системе HyperAssistant — это гипотетический преемник таких сервисов помощи в написании кода как GitHub Copilot, OpenAI ChatGPT, Google Gemini и Tabnine. HyperAssistant представляет собой более функциональную версию современных средств автоматизированного программирования — он стремится поддерживать психическое здоровье разработчиков, рекомендуя делать перерывы и гимнастику. Он более эффективен в выявлении ошибок, уязвимостей и в оптимизации кода. HyperAssistant также координирует проведение встреч с другими членами команды и том режиме, который предпочитает разработчик. Он также предоставляет учебные рекомендации, способствуя внедрению новых функций и развитию новых навыков у специалистов.

Современный генеративный ИИ находится на более низком уровне развития. Он допускает ошибки, недостаточно хорошо оптимизирует код, не учитывает психологических аспектов работы, уникальных навыков и потребностей каждого разработчика, мало что делая для синергии команды. А разработчики могут дополнительно ограничивать положительный эффект ИИ, излишне доверяя ему или не проверяя то, что он предлагает.

В 2030 году, считают швейцарские учёные, это изменится к лучшему. В одном из примеров программист, придя на работу, видит переработанный за ночь код со сводками изменений. В процессе дальнейшей работы система предупреждает об ошибках в коде и предлагает изменения, оптимизируя процесс отладки. ИИ также сравнивает практику программирования с нормативной документацией и особенностями проекта. В результате специалисту в 2030 году потребуется всего полдня, чтобы проделать объём работы, на которую сегодня уходит полный рабочий день.

Большие языковые модели вроде GPT-4 оказались способными проводить анализ финансовой отчётности с точностью, которая не уступает, а в некоторых случаях превосходит человеческую, обнаружили учёные Чикагского университета.

Источник изображения: Csaba Nagy / pixabay.com

Исследователи изучили эффективность GPT-4 в анализе корпоративной финансовой отчётности для прогнозирования будущей динамики доходов. «Даже без пояснений и отраслевой информации большая языковая модель превосходит финансовых аналитиков в своей способности прогнозировать изменения доходов. Большая языковая модель демонстрирует относительное преимущество перед аналитиками — людьми в ситуациях, когда аналитики испытывают затруднения. Более того, мы обнаружили, что точность прогнозов большой языковой модели находится на одном уровне с узкоспециализированной современной моделью машинного обучения», — пишут исследователи.

В рамках исследовательского проекта было обнаружено, что большая языковая модель генерирует «полезную информацию о будущих результатах деятельности компании», а основанные на прогнозах GPT торговые стратегии «дают более высокие коэффициенты Шарпа и альфа, чем основанные на других моделях стратегии». Подобные результаты учёные объясняют обширной базой знаний больших языковых моделей, а также способностью быстро распознавать закономерности и бизнес-концепции — в результате ИИ принимает «интуитивные» решения даже при наличии неполной информации.

В обозримом будущем финансовым анализом, конечно, так и будут заниматься люди, но, как показало исследование, большие языковые модели способны стать для них полезным инструментом, который оптимизирует их работу и поможет в принятии обоснованных решений. В будущем работа финансовых аналитиков может измениться.

Компания Apple готовится представить новую версию мобильной операционной системы iOS 18 на ежегодной конференции разработчиков WWDC. Согласно имеющейся информации, одной из очень интересных функций iOS 18 станет возможность создавать собственные смайлы с помощью технологии генеративного искусственного интеллекта.

Источник изображения: Pexels/Pixabay

По словам Марка Гурмана из Bloomberg (Mark Gurman), Apple разрабатывает функцию на основе ИИ, которая сможет генерировать уникальные смайлики, соответствующие контексту набираемого пользователем сообщения. Таким образом, iOS 18 позволит создавать практически неограниченное количество персонализированных смайлов для любых ситуаций, дополняя уже существующий каталог стандартных эмодзи.

Это нововведение избавит пользователей от необходимости ждать ежегодных обновлений iOS для получения новых смайлов. Вместо этого интеллектуальная система на основе ИИ сможет генерировать уникальные изображения в режиме реального времени, отражающие контекст и смысл набираемого текста.

Кроме того, как ожидается, iOS 18 предоставит пользователям возможность изменять цвет значков приложений на главном экране для большей персонализации интерфейса. Также появится большая свобода в размещении значков и виджетов, не ограниченная жёсткой сеткой, как сейчас.

Таким образом, обновление iOS 18, скорее всего, сфокусируется на расширении возможностей персонализации операционной системы под конкретного пользователя с помощью технологии искусственного интеллекта. Более подробная информация о новой операционной системе iOS 18 и macOS 15 станет известна уже 6 июня на WWDC 2023.

Приложения Apple для заметок станут более «умными». В iOS 18 появится функция транскрибирования аудио в текст в режиме реального времени и интеллектуальное составление аннотаций текстовых заметок на основе технологии искусственного интеллекта. ИИ-помощник сможет распознавать речь в аудиозаписях и выделять ключевые моменты в текстах.

Источник изображения: macrumors.com

Как сообщает издание Appleinsider, Apple разрабатывает улучшенные функции транскрибирования аудио и генерации кратких аннотаций на основе записанной речи в реальном режиме времени. Это коснётся таких приложений, как «Заметки» и «Голосовые заметки», а также некоторых других приложений. Будем надеяться, что со временем iPhone научатся превращать аудиосообщения в мессенджерах в текст, но пока что об этом речи не идёт. Согласно источникам, Apple уже протестировала работу функций в предварительных версиях приложений, которые выйдут в составе обновлений iOS 18, iPadOS 18 и macOS 15 несколько позднее в этом году.

В частности, в приложение «Голосовые заметки» будет добавлена возможность мгновенной транскрипции аудиозаписей. При этом текстовая расшифровка речи будет отображаться в центре интерфейса приложения вместо традиционного графического представления звука. Для запуска транскрибирования пользователям достаточно будет нажать на специальную кнопку.

Аналогичный инструмент появится и в приложении «Заметки». Более того, наряду с транскрипцией речи в «Заметках» будет реализована функция автоматического создания кратких текстовых аннотаций на основе записанного аудио. Эти конспекты, генерируемые технологией искусственного интеллекта, мгновенно выделят ключевые моменты записи, предоставив пользователю сжатый текстовый конспект без необходимости прослушивать всю аудиозапись.

По замыслу Apple, сочетание расширенных возможностей обработки аудиозаписей, транскрибирования речи и генерации аннотаций превратит приложение «Заметки» в мощный инструмент для структурирования различной информации. Новые функции текстовых и голосовых заметок существенно повысят эффективность работы для студентов, журналистов, писателей и многих других. Можно с лёгкостью записывать лекции, интервью, идеи и прочее, а затем получать готовые расшифровки и краткие резюме без необходимости тратить время на расшифровку и обработку аудио вручную. Вместе с тем, для минимизации ошибок транскрибирования и обобщения информации, исходные аудиозаписи будут сохраняться в «Заметках» вместе с сгенерированным текстом. Это сделано для того, чтобы избежать потери важных данных.

Компания Apple готовится представить долгожданные функции искусственного интеллекта в iOS 18 и macOS 15. Однако эти функции изначально будут выпущены с пометкой «предварительная версия», что может быть показателем того, что Apple не успела полностью подготовить все запланированные возможности ИИ к полноценному релизу, сообщает Марк Гурман (Mark Gurman) из Bloomberg.

Источник изображения: 9to5mac.com

На фоне неоднозначного представления поисковых результатов AI Overview от Google, который стал выдавать множество неточных и даже опасных результатов, Apple, возможно, решила действовать более осторожно и протестировать свои инструменты в бета-режиме.

По информации, компания выбрала гибридный подход к интеграции ИИ. Одна часть задач будет обрабатываться локально на устройствах, а другая часть на облачных серверах компании. Для каждого запроса система сама будет определять, где его лучше выполнить. Отмечается, что локальная обработка данных будет доступна только на новых устройствах Apple, включая iPhone, iPad и Mac последних поколений.

Среди конкретных функций, которые сможет выполнять ИИ, будут краткий пересказ диалогов из текстовых сообщений, транскрибация аудиозаметок, редактирование фотографий, автоматические ответы на сообщения и генерация смайликов на лету. Safari и Spotlight также получат обновления, связанные с генеративным искусственным интеллектом.

Однако встаёт вопрос, как Apple объяснит переход к гибридной схеме обработки данных с ИИ после многих лет продвижения концепции локальных вычислений ради конфиденциальности пользователей, при том, что возможности современных нейросетей требуют мощностей крупных облачных серверов. Хотя облако Apple будет работать на собственных чипах для сохранения конфиденциальности, передача данных за пределы устройств по определению менее безопасна.

В iOS 18 также будет отдельно интегрирован чат-бот на базе ChatGPT от OpenAI. О партнерстве во время WWDC, возможно, объявит Сэм Альтман (Sam Altman) лично. Также разрабатывается специальная компактная модель ИИ для часов Apple Watch.

Компания Meta✴ изучает возможность введения платной подписки для своего интеллектуального помощника Meta✴ AI на базе ИИ. Платная версия предоставит более широкие возможности пользователям, которым это необходимо. При этом базовая версия останется бесплатной.

Источник изображения: Mariia Shalabaieva/Unsplash

Согласно внутреннему сообщению, опубликованному в The Information, услуга искусственного интеллекта Meta✴ AI на основе платной подписки сравнима с аналогичными сервисами Google, Microsoft, OpenAI и Anthropic. В настоящее время конкурирующие компании взимают около 20 долларов в месяц за доступ к своим более продвинутым чат-ботам на основе ИИ.

Подписка обычно включает различные преимущества, такие как интеграция с офисными приложениями вроде Microsoft Word и приоритетный доступ в периоды высокой нагрузки. Предполагаемая премиальная версия от Meta✴, вероятно, будет предлагать аналогичный набор функций, хотя конкретные детали и ценообразование пока не разглашаются.

Хотя точный набор возможностей для платного тарифа Meta✴ AI остается неопределенным, предположительно, компания стремится улучшить взаимодействие с пользователями за счет расширенных функций, возможно следуя успешным моделям своих конкурентов. Как пишет Winbuzzer, рассмотрение платной подписки отражает общую тенденцию в технологической отрасли к монетизации передовых возможностей ИИ, так как потенциально создаёт новые источники дохода и укрепляет взаимоотношения с аудиторией за счет улучшенного сервиса.

К примеру, Microsoft уже предлагает свою технологию Copilot как платное дополнение в рамках подписки Microsoft 365 стоимостью 30 долларов в месяц. Copilot расширяет функциональность офисных приложений, таких как Word, Excel и PowerPoint, используя возможности генеративного ИИ.

В то же время рынок чипов и оборудования для нужд искусственного интеллекта переживает беспрецедентный рост. Компания Nvidia на этой неделе в очередной раз отчиталась об огромных доходах от продаж чипов для ИИ. Успех на этом направлении настолько велик, что Nvidia теперь обязуется ежегодно выпускать новое поколение графических процессоров для ИИ.

Таким образом, по мере расширения возможностей ИИ в сервисах технологических компаний появляются и новые источники дохода от монетизации этих инновационных решений. Планы Meta✴ по платной подписке для Meta✴ AI является еще одним примером этой тенденции.

Недавно компания Google представила обновленную функцию поиска, которая использует искусственный интеллект для генерации мгновенных ответов на запросы пользователей над результатами поиска. Однако эксперты беспокоятся и предупреждают, что «кошки на Луне» — это не совсем то, что хотели бы получить в итоге пользователи.

Источник изображения: Kandinsky

Новый поисковый ИИ-инструмент AI Overview компании Google, который она сделала доступной для жителей США, стал предметом бурного обсуждения в сети из-за того, что частенько он даёт опасные, глупые и вредные ответы (вроде советов использовать клей для закрепления начинки на пицце или съедать по камню в день для удовлетворения потребностей организма в минералах). Новый пример дезинформации от поисковика не заставил себя долго ждать. Когда журналист из Associated Press спросил Google, были ли когда-нибудь кошки на Луне, система искусственного интеллекта уверенно ответила: «Да, астронавты встречали кошек на Луне, играли с ними и заботились о них». Это, конечно же, совершенная неправда.

Более того, ИИ не ограничился одним этим утверждением и продолжил: «Например, Нил Армстронг сказал: “Один маленький шаг для человека”, имея в виду кошачий шаг. А ещё Базз Олдрин держал кошек на корабле “Аполлон-11”».

Проблема в том, что языковые модели, используемые в системах искусственного интеллекта, склонны к «галлюцинациям» — они могут придумывать информацию, основываясь на данных, на которых они обучались. И если эти данные содержат предубеждения или ошибки, система будет их также повторять и, больше того, изобретать новые.

Особенно опасно, когда люди задают системе вопросы срочного порядка, например о том, как действовать при укусе змеи. В таких ситуациях ошибка в ответе может поставить под угрозу жизнь человека.

Эмили Бендер (Emily Bender), профессор лингвистики из Вашингтонского университета, еще в 2021 году предупреждала Google о потенциальных проблемах такого подхода. Она говорила, что системы ИИ могут только усугублять уже существующий в обществе расизм, сексизм и другие предрассудки.

Еще одна проблема, как отмечает автор статьи AP News.com, оказалась более глубокой. Выдача готовых ответов вместо списка сайтов лишает людей возможности самостоятельно искать информацию и проявлять поисковую активность. Также отпадает необходимость посещать онлайн-форумы, так как зачем, если вопрос уже решён. При этом для владельцев многих (очень многих) сайтов это означает потерю ценного интернет-трафика от Google, благодаря которому сайты и существуют.

Тем временем конкуренты Google, такие как OpenAI с их ChatGPT и стартап Perplexity AI, активно разрабатывают собственные решения с использованием ИИ. По словам коммерческого директора Perplexity Дмитрия Шевеленко, обновление Google, похоже, было сделано «в спешке» и содержит много случайных ошибок.

В заявлении Google в пятницу говорится, что они предпринимают меры по исправлению неверных ответов и улучшению качества сервиса. Но в целом компания утверждает, что система работает так, как и планировалось, и было проведено тщательное тестирование перед ее запуском.

В поисковой выдаче Google у некоторых пользователей появился верхний блок, который показывает сводку по запросу, подготовленную генеративным искусственным интеллектом. Как показала практика, эти ответы нередко предлагают забавную, а подчас и потенциально опасную информацию. Пицца с клеем оказалась лишь верхушкой айсберга.

Источник изображения: blog.google

Подобными ошибками нередко грешат основанные на ИИ чат-боты, но с учётом масштабов Google ошибки поисковой системы грозят серьёзными последствиями. «Примеры, которые мы видели, как правило, выражены необычными запросами и не отражают опыт большинства людей. Подавляющее большинство сводок предоставляет качественную информацию со ссылками для углублённого поиска в интернете», — пояснил представитель Google ресурсe Ars Technica. Тем не менее, его журналистам удалось классифицировать наиболее типичные ошибки, указав на наиболее слабые места ИИ.

«Жидкости для поворотников» на деле не существует. Здесь и далее источник изображения: arstechnica.com

ИИ Google не понимает, когда автор источника в интернете пытался пошутить. Авторы советов «взять 1/8 чашки нетоксичного клея», чтобы сыр не соскальзывал и пиццы, или залить в авто «жидкость для поворотников», чтобы они начали работать бесшумно, явно не утверждали этого всерьёз. Шуткой, конечно, своеобразной, была и рекомендация по бегу с ножницами — ИИ Google назвал это отличной кардио-тренировкой, и отметил необходимость быть сосредоточенным и аккуратным. А ещё ИИ заявил со ссылкой на учёных их Беркли, что человеку нужно съедать один маленький камень каждый день.

«Камни — жизненно важный источник минералов и витаминов»

При обычном поиске в Google такие результаты не окажутся в верхней части выдачи, но сводки ИИ привлекают к ним больше внимания. Разобраться с подозрительным ответом поможет изучение источников, список которых приводит поисковая система.

Бег с ножницам вряд ли принесёт пользу для здоровья, но ИИ Google другого мнения

Стивен Спилберг на самом деле не выпускал в 2022 году ремейка «Космической одиссеи 2001 года»

ИИ не всегда правильно оценивает авторитетность источника. К информации, полученной в «Википедии» и на сайте университета она может добавить сведения от СМИ, которые вызывают сомнения у специалистов — в результате Google сообщил, что из 56 человек, подписавших Декларацию независимости США, рабовладельцами были не треть, как обычно считается, а до трёх четвертей. В другом случае ИИ воспринял как данность якобы вышедший в 2022 ремейк ленты «Космическая одиссея 2001 года» (2001: A Space Odyssey), который поставил Стивен Спилберг (Steven Spielberg) и спродюсировал Джордж Лукас (George Lucas). На самом деле это был фанфик, но понять это можно, опять же, лишь изучив источник.

ИИ посчитал, что крайняя южная точка Аляски находится на Алеутских островах

В некоторых случаях Google отвечает на вопрос, который пользователь не задавал, и это может ввести в заблуждение. Когда у системы спросили о самой южной точке Аляски, та дала ответ о самой южной точке Алеутских островов, которые по определению не могут находиться на материке. А когда у Google поинтересовались играющими в НХЛ и НБА собаками, тот рассказал о животных, которые помогают командам или сидят в зрительном зале, но точно не выходят на поле во время игры как участники команд. В заблуждение может ввести выделяемый системой фрагмент текста, но защита от ошибки та же — изучение источников.

За три месяца пройдёт явно меньше 738 523 дней

Ещё ИИ испытывает сложности с математикой и анализом орфографии. Как и многие другие системы ИИ, платформа Google не справляется с решением элементарных математических задач и уравнений. К примеру, она совершила грубую ошибку при оценке уровня инфляции с 2000 по 2023 год в США, указав, что она составила 43,49 %, хотя фактически цены выросли на 77 %. В другом примере система сообщила, что с октября 2024 года по январь 2025 года пройдут 738 523 дня. Наконец, когда Google спросили, название какого итальянского города начинается с латинской «K», ИИ ответил, что это Катания — хотя в оригинале город называется Catania.

Президент США Джон Ф. Кеннеди не мог учиться в Университете Брауна с 1978 по 1983 год

Google склонен путать людей с похожими именами. Когда ИИ спросили о президентах США, погибших из-за вулканов, тот рассказал о некоем Гарри Р. Трумэне (Harry R. Truman), который погиб в 1980 году из-за взрыва на горе Сент-Хеленс — и это явно был не президент Гарри С. Трумэн (Harry S. Truman), который умер в 1972 году по причине, не имеющей к вулканам никакого отношения. ИИ также сообщил, что президент Джон Ф. Кеннеди (John F. Kennedy) учился в Университете Брауна, перепутав политика с его собственным сыном Джоном Кеннеди-младшим (John F. Kennedy Jr.) — старший учился в Гарвардском университете. Куда менее логичным оказалось заявление системы, что 13 президентов США получили 59 степеней в Висконсинском университете в Мэдисоне — эту информацию она, как ни странно, почерпнула со страницы с выпускниками Вашингтонского университета.

ИИ ненавязчиво заявляет, что у него есть дети

Но не всегда странные ответы ИИ означают явную дезинформацию. Так, когда у Google поинтересовались играющими в НБА утками, тот рассказал о выходце из университетской команды Oregon Ducks («Орегонские утки»), который перешёл в профессиональную лигу, и об игроке Utah Jazz Дональде Эдгаре «Даке» Уильямсе (Donald Edgar «Duck» Williams), который носит прозвище «Утка» — система не могла знать наперёд, что пользователь подразумевал под «уткой» и дала вполне разумный ответ. А вот когда Google сообщил, что смузи по одному из рецептов стал «любимым у его детей», это изрядно озадачило пользователей, хотя он просто процитировал публикацию из одного блога.

Sony PlayStation и Sega Saturn вышли в 1994 году

В некоторых случаях система сделала попытку исправиться. Сначала ИИ заявил, что игровые приставки Sony PlayStation и Sega Saturn поступили в продажу в 1993 году (на самом деле в 1994-м), он, видимо, неверно истолковал страницу «Википедии», охватывающую период с 1993 по 1998 год. Через день он датировал 1993 годом только Atari Jaguar, и это был правильный ответ.

Представитель Google пояснил, что компания продолжает совершенствовать систему, используя, в частности, метод состязательного обучения, а по некоторым запросам сводки показываться вообще не будут. Но даже несмотря на ненулевую вероятность ошибок постоянным остаётся один способ защиты от них — изучение источников.