Первый общедоступный LLM от Apple называется Ferret
от: 29-12-2023 15:53 | раздел: Новости
Apple незаметно выпустила свою первую мультимодальную модель искусственного интеллекта на большом языке (LLM) в виде проекта с открытым исходным кодом, который она назвала Ferret. Новый ИИ Ferret был представлен в октябре исследователем Apple AI Чжэ Ганом, но до сих пор оставался практически незамеченным. Ferret был разработан Ганом совместно с его коллегами из Apple и исследователями из Колумбийского университета. По словам Гана, Ferret более точно понимает небольшие области изображения и описывает их, чем GPT-4 от OpenAI, при этом создавая меньше ошибок.
Чжэ ГанИнтересно, что репозиторий Apple на Github показывает, что компания обучала Феррета, используя 8 высокопроизводительных графических процессоров Nvidia A100, оснащенных 80 ГБ оперативной памяти HBM2e. A100 — самый востребованный графический процессор на рынке после бурного развития технологий генеративного искусственного интеллекта, последовавшего за запуском OpenAI ChatGPT в конце прошлого года. Он способен развивать производительность 312 Терафлопс с точностью Tensor Float 32, а модель емкостью 80 ГБ, используемая Apple для обучения Ferret, обеспечивает пропускную способность до 2039 ГБ/с. Однако компания не раскрывает предмет, который она использовала для обучения новой модели.
Графика, объясняющая, как Ferret работает с распознаванием изображений. (Источник: Apple)Хотя Apple все еще находится на относительно ранних стадиях своего пути к генеративному искусственному интеллекту с Ferret, цель будет состоять в том, чтобы такая модель, как Ferret, эффективно работала на смартфоне. Считается, что GPT4 OpenAI имеет более 1 триллиона параметров, но мобильные телефоны в настоящее время могут обрабатывать только LLM с примерно 10 миллиардами параметров. С этой целью исследователи Apple также недавно совершили прорыв, продемонстрировав, как дополнить оперативную память смартфона встроенной флэш-памятью для создания более крупных моделей, которые в противном случае невозможно было бы запускать на устройстве.
Иван Ковалев
VIA
Подписывайтесь и читайте новости от ITквариат раньше остальных в нашем
Telegram-канале !
Заметили ошибку? Выделите ее мышкой и нажмите Ctrl+Enter!
И еще об интересном...
Министр торговли США назвал NVIDIA "хорошим партнером" для производства ИИ-чипов для КитаяMicrosoft нанимает соучредителей OpenAI Сэма Альтмана и Грега Брокмана в передовую исследовательскую группу в области ИИOpenAI сталкивается с расследованием FTC по поводу ChatGPT, наносящего ущерб репутации и проблем с рисками данныхПочему современные компьютерные игры используют так много видеопамяти?Компания Microsoft завершила сделку о приобретении GitHubMicrosoft официально подтвердил приобретение ресурса GitHubПолный обзор Sony Xperia Touch на русском языке. Android-планшет с проектором? Нет! Проектор с Android! (+видео)
