токени
Anthropic оголосила, що її модель Claude Sonnet 4 тепер здатна обробляти до 1 млн токенів контексту в одному запиті — у...
Читати
Multi-token prediction: Apple показала, як LLM можуть бути у 5 разів швидші
У новому науковому дослідженні Apple описала техніку, яка прискорює відповіді великих мовних моделей (LLM), зберігаючи якість генерації, повідомляє 9to5mac.com....
Читати
Claude може коштувати дорожче за GPT: причина — токенізація
Хоча відомо, що різні модельні родини використовують різні токенізатори, вплив токенізаторів на фактичні витрати досліджували обмежено. Чи генерують вони однакову...
Читати
OpenAI представила нову серію моделей GPT-4.1 із фокусом на програмування
OpenAI анонсувала нову лінійку моделей GPT-4.1 — до неї входять три варіанти: базовий, mini та nano. Усі підтримують контекстне вікно...
Читати
Чому ШІ від OpenAI інколи думає китайською?
Невдовзі після випуску компанією OpenAI моделі reasoning (з логічним міркуванням) під назвою o1 користувачі помітили дивне явище: ця модель іноді...
Читати