GigaAM: распознавание речи, которое работает без интернета

Почти все говорят быстрее, чем печатают. Продиктовать мысль — секунды, набрать её руками — минута. Просто мы привыкли, что текст положено печатать, и не замечаем разницы.

У меня так появляется почти всё: заметки, сообщения, половина писем.

Раньше это уходило в облако. Записал, отправил, подождал, получил текст. Работает нормально — пока есть интернет и пока тебя не смущает, что твой голос лежит на чужом сервере.

Сейчас офлайн-режим у меня на GigaAM v3 — модели распознавания речи, которую Сбер выложил в открытый доступ.

Жму горячую клавишу, говорю, отпускаю — текст на экране. Никакой отправки, ждать нечего: модель лежит на диске, аудио идёт прямо в неё.

Больше всего удивил русский. Обычно модели учат на английском, русский у них идёт прицепом, и это слышно на любом имени или техническом слове. GigaAM делали под русский, и разница заметна с первой фразы.

Знаки препинания она обычно расставляет сама, так что на выходе получается готовый текст, а не поток слов.

Но привык я не к скорости. Привык к тому, что можно не думать, что именно диктуешь: клиентские детали, сырые идеи, чей-то телефон — всё остаётся на компьютере. Заодно оно работает в самолёте и на отельном вайфае, не считает минуты и не отвалится, когда у кого-то поменяются тарифы.

Минусы есть, но мелкие. Модель весит 215 МБ — квантованная в int8 версия, на диске её просто не замечаешь. Английский другие модели распознают лучше, так что для него я оставил облако.

Всё это собрано у меня в CrookedVox: держишь клавишу, говоришь, получаешь текст, при желании прогоняешь его через AI — поправить, сократить, переписать другим тоном. Облако там тоже осталось, но включаю я его всё реже.

Пользуюсь каждый день уже несколько недель. Возвращаться в облако не тянет.