Компания OpenAI анонсировала открытую языковую модель Orpheus-7B, которую можно запускать локально на потребительских ноутбуках. Веса опубликованы под лицензией Apache 2.0, а код инференса выложен на GitHub вместе с примерами тонкой настройки. Релиз состоялся вечером 14 мая и уже собрал более 12 тысяч звёзд на GitHub за первые сутки.
По заявлению разработчиков, модель обучена на 4,2 трлн токенов и показывает результаты, сопоставимые с прошлогодними флагманскими решениями, при этом занимает около 4,5 ГБ в квантованном виде. Поддерживаются контекст до 64 тысяч токенов, вызов инструментов, режим рассуждений и генерация структурированного JSON. Отдельно подчёркивается устойчивость к промпт-инъекциям.
Запуск возможен через llama.cpp, Ollama и vLLM; на MacBook с чипом M3 генерация идёт со скоростью около 40 токенов в секунду. Компания отмечает, что не берёт плату за коммерческое использование, но требует указывать происхождение модели в документации продукта и не применять её для создания вредоносного кода.
Аналитики называют шаг ответом на давление открытых экосистем и прогнозируют усиление конкуренции на рынке локального ИИ. Первые отзывы разработчиков указывают на стабильное качество генерации кода, однако отмечают слабые места в многоязычных задачах и редких языках программирования.