Технологии 7 августа 09:40

Groq и HUMAIN выпускают новые открытые модели OpenAI

Groq, пионер в области быстрого вывода, и HUMAIN, компания Государственного инвестиционного фонда Саудовской Аравии и ведущий поставщик услуг ИИ в Саудовской Аравии, объявили о доступности двух открытых моделей OpenAI на GroqCloud. Предлагаются две модели — gpt-oss-120B и gpt-oss-20B — с полным контекстом на 128 000 токенов, ответами в режиме реального времени и интегрированными серверными инструментами на оптимизированной платформе вывода Groq с дня запуска.

Groq уже давно поддерживает усилия OpenAI по открытому исходному коду, включая крупномасштабное внедрение Whisper. Этот запуск базируется на этом фундаменте, давая возможность использования новейших моделей на производстве с глобальным доступом и местной поддержкой со стороны HUMAIN.

«OpenAI устанавливает новый стандарт высокой производительности в моделях с открытым исходным кодом», — сказал Джонатан Росс (Jonathan Ross), генеральный директор Groq. «Groq был создан для быстрого и доступного запуска таких моделей, поэтому разработчики во всем мире могут использовать их со дня запуска. Работа с Humain способствует доступу и поддержке моделей в Королевстве Саудовская Аравия, позволяя разработчикам в регионе работать «умнее» и быстрее».

«Groq обеспечивает непревзойденную скорость вывода, масштабируемость и экономическую эффективность, необходимые для внедрения передового ИИ в Королевстве», — сказал Тарек Амин (Tareq Amin), генеральный директор Humain. «Вместе мы поддерживаем новую волну инноваций в Саудовской Аравии, основанных на лучших моделях с открытым исходным кодом и инфраструктуре для их масштабирования по всему миру. Мы гордимся тем, что поддерживаем лидерство OpenAI в области ИИ с открытым исходным кодом».

Для максимального использования возможностей новых моделей OpenAI Groq предоставляет расширенный контекст и встроенные инструменты, такие как выполнение кода и веб-поиск. Веб-поиск помогает предоставлять релевантную информацию в режиме реального времени, в то время как выполнение кода отвечает за логическую обработку и сложные рабочие процессы. Платформа Groq предоставляет эти возможности с дня запуска с полной длиной контекста в 128 000 токенов.

Специально созданный стек Groq обеспечивает самую низкую стоимость токена для новых моделей OpenAI, сохраняя при этом скорость и точность.

gpt-oss-120B в настоящее время работает со скоростью 500+ т/с,  а gpt-oss-20B — со скоростью 1 000+ т/с на GroqCloud.

Groq предлагает новейшие открытые модели OpenAI по следующим ценам:

• gpt-oss-120B: $ 0,15 / M входных токенов и $ 0,75 / M выходных токенов
• gpt-oss-20B: $ 0,10 / M входных токенов и $ 0,50 / M выходных токенов

HUMAIN, компания Государственного инвестиционного фонда Саудовской Аравии, является глобальной компанией по искусственному интеллекту, предоставляющей возможности ИИ с полным стеком в четырех основных областях — центры обработки данных следующего поколения, гиперпроизводительная инфраструктура и облачные платформы, передовые модели ИИ, включая новейшие арабские мультимодальные LLM, и преобразующие ИИ-решения, которые сочетают глубокое понимание сектора с практической реализацией.

Сквозная модель HUMAIN обслуживает организации государственного и частного секторов, открывая экспоненциальную ценность во всех отраслях, стимулируя трансформацию и укрепляя возможности за счет синергии человека и ИИ. Благодаря растущему портфелю отраслевых продуктов ИИ и основной миссии по стимулированию лидерства в области ИС, а также первоклассным талантливым специалистам по всему миру, Humain создана с целью конкурентного преимущества в глобальном масштабе и национального отличия.