Новая модель искусственного интеллекта Groq бросает вызов Grok и ChatGPT Илона Маска
Новая модель искусственного интеллекта привлекла внимание социальных сетей своей молниеносной скоростью реакции и инновационной технологией, которая потенциально может бросить вызов Grok и ChatGPT Илона Маска.
Groq, новейший инструмент искусственного интеллекта, который произвел фурор в индустрии, быстро привлек к себе внимание после того, как его публичные эталонные тесты стали вирусными на популярной социальной медиаплатформе X.
Многие пользователи поделились видеороликами с замечательными результатами работы Groq, демонстрирующими его вычислительные способности, превосходящие известного ИИ-чатбота ChatGPT.
Groq самостоятельно разрабатывает пользовательский ASIC-чип
Отличительной особенностью Groq является разработка командой компании специализированной интегральной схемы (ASIC), созданной специально для больших языковых моделей (LLM).
Этот мощный чип позволяет Groq генерировать впечатляющие 500 лексем в секунду, в то время как общедоступная версия ChatGPT, известная как ChatGPT-3.5, отстает всего на 40 лексем в секунду.
Компания Groq Inc, создавшая это чудо искусственного интеллекта, утверждает, что достигла революционной вехи, создав первый в истории блок обработки языка (LPU), который служит двигателем модели Groq.
В отличие от традиционных моделей ИИ, которые в значительной степени зависят от графических процессоров (GPU), дефицитных и дорогих, LPU Groq предлагает альтернативное решение с непревзойденной скоростью и эффективностью.
Интересно, что компания Groq Inc - не новичок в индустрии: она была основана в 2016 году, когда получила торговую марку на название "Groq".
Однако в ноябре прошлого года, когда Илон Маск представил свою собственную модель ИИ, названную Grok (с буквой "к"), создатели Groq обратились к Маску в своем блоге, чтобы прокомментировать его выбор названия.
В шутливой и в то же время напористой манере они подчеркнули сходство и попросили Маска выбрать другое имя, учитывая ассоциации с их уже известным брендом Groq.
Несмотря на недавнюю шумиху в социальных сетях, ни Маск, ни страница Grok на сайте X никак не прокомментировали совпадение названий двух инструментов.
Разработчики ИИ для создания пользовательских чипов
Успешное использование компанией Groq собственной модели LPU для превзойти другие популярные модели на базе GPU вызвало бурную реакцию.
Некоторые даже предполагают, что LPU от Groq потенциально могут предложить значительное улучшение по сравнению с GPU, бросив вызов высокопроизводительным аппаратным средствам таких востребованных чипов, как A100 и H100 от Nvidia.
"Groq создала новый процессор, известный как Tensor Streaming Processor (TSP), который они классифицируют как линейный процессорный блок (LPU)", - написал пользователь X Джей Скэмблер.
"В отличие от традиционных GPU, которые представляют собой параллельные процессоры с сотнями ядер, предназначенные для рендеринга графики, LPU спроектированы для обеспечения детерминированной производительности при вычислениях в области искусственного интеллекта".
Скамблер добавил, что это означает, что "производительность может быть точно предсказана и оптимизирована, что очень важно для приложений ИИ в реальном времени".
Эта тенденция совпадает с текущим движением в отрасли, когда крупные разработчики ИИ активно изучают возможность создания собственных чипов, чтобы уменьшить зависимость от моделей Nvidia.
Например, OpenAI, известный игрок в области ИИ, по сообщениям, ищет значительное финансирование от правительств и инвесторов по всему миру для разработки собственного чипа.
@neurocrypto