Blog ·

Underdog Bark komt naar utt

Twee Engelse spraakmodellen van Conway Research. Bark Clean laat de ehs weg terwijl het schrijft. Bark Verbatim houdt elk woord. Allebei komen ze in de volgende update.

Underdog Bark is een familie Engelse spraakmodellen van Conway Research, het bedrijf achter de app Underdog. Bark begon als Parakeet v3 van NVIDIA, het model dat utt standaard gebruikt, en is verder getraind op Engels.

utt biedt er nu twee aan. Allebei draaien ze op de Neural Engine van je Mac, net als elk Parakeet-model in utt, en allebei zijn ze ongeveer 440 MB groot.

Clean of Verbatim

  • Bark Clean schrijft op wat je bedoelde. Het laat "um" en "uh", valse starts en herhaalde woorden weg terwijl het transcribeert. Kies het voor dicteren.
  • Bark Verbatim schrijft op wat je zei, aarzelingen inbegrepen. Kies het voor vergadernotities, ondertitels of alles wat precies met de opname moet kloppen.

Hoe ze zich verhouden

We lieten elk model van de Parakeet-engine in utt, behalve het Japanse, de eerste vijf minuten van Ken Robinsons TED-talk Do schools kill creativity? uitschrijven op een M2 Pro. Elk transcript is vergeleken met TED's eigen ondertitels. Bark staat in oranje; beweeg over een model voor de cijfers.

Nauwkeurigheid tegen snelheid Hoger is minder fouten, rechts is sneller. Foutpercentage zonder "um" en "uh", snelheid in seconden audio per seconde, op een logschaal.
30×100×300×5%6%7%8%9%10%11%Parakeet English Classic — NVIDIA, nvidia/parakeet-tdt-0.6b-v2: 6.2%, 176×Parakeet English Classic NVIDIA · parakeet-tdt-0.6b-v2Bark Clean — Conway Research, ConwayResearch/Underdog-Bark-3.0-Clean: 7.1%, 110×Bark Clean Conway Research · Underdog-Bark-3.0-CleanParakeet Quick — NVIDIA, nvidia/parakeet-tdt_ctc-110m: 7.1%, 288×Parakeet Quick NVIDIA · parakeet-tdt_ctc-110mBark Verbatim — Conway Research, ConwayResearch/Underdog-Bark-3.0: 8.8%, 121×Bark Verbatim Conway Research · Underdog-Bark-3.0Parakeet Ultra — Moondream, moondream/parakeet-ultra: 8.8%, 100×Parakeet Ultra Moondream · parakeet-ultraParakeet Standard — NVIDIA, nvidia/parakeet-tdt-0.6b-v3: 9.6%, 135×Parakeet Standard NVIDIA · parakeet-tdt-0.6b-v3Parakeet Redux — Moondream, moondream/parakeet-redux: 10.1%, 34×Parakeet Redux Moondream · parakeet-redux
Woordfoutpercentage Elk woordZonder "um" en "uh" TED laat aarzelingen weg uit de ondertitels, dus een model dat ze opschrijft verliest er punten op. De afstand tussen de stip en de ring is hoeveel stopwoorden een model hield.
0%5%10%15%Parakeet English Classic — NVIDIA, nvidia/parakeet-tdt-0.6b-v2: 6.6% / 6.2%Parakeet English Classic NVIDIA · parakeet-tdt-0.6b-v2Bark Clean — Conway Research, ConwayResearch/Underdog-Bark-3.0-Clean: 7.1% / 7.1%Bark Clean Conway Research · Underdog-Bark-3.0-CleanParakeet Quick — NVIDIA, nvidia/parakeet-tdt_ctc-110m: 7.1% / 7.1%Parakeet Quick NVIDIA · parakeet-tdt_ctc-110mBark Verbatim — Conway Research, ConwayResearch/Underdog-Bark-3.0: 11.4% / 8.8%Bark Verbatim Conway Research · Underdog-Bark-3.0Parakeet Ultra — Moondream, moondream/parakeet-ultra: 9.9% / 8.8%Parakeet Ultra Moondream · parakeet-ultraParakeet Standard — NVIDIA, nvidia/parakeet-tdt-0.6b-v3: 12.7% / 9.6%Parakeet Standard NVIDIA · parakeet-tdt-0.6b-v3Parakeet Redux — Moondream, moondream/parakeet-redux: 12.4% / 10.1%Parakeet Redux Moondream · parakeet-redux
Laadtijd Eerste keerElke keer daarna Seconden, op een logschaal. De eerste keer downloadt het model en compileert de Mac het voor de Neural Engine. Parakeet Standard was op deze Mac al gecompileerd, dus de eerste keer telt daar niet echt.
1 s10 s100 s1000 sParakeet Redux — Moondream, moondream/parakeet-redux: 604 s / 26 sParakeet Redux Moondream · parakeet-reduxBark Verbatim — Conway Research, ConwayResearch/Underdog-Bark-3.0: 140 s / 2 sBark Verbatim Conway Research · Underdog-Bark-3.0Bark Clean — Conway Research, ConwayResearch/Underdog-Bark-3.0-Clean: 96 s / 3 sBark Clean Conway Research · Underdog-Bark-3.0-CleanParakeet Ultra — Moondream, moondream/parakeet-ultra: 85 s / 4 sParakeet Ultra Moondream · parakeet-ultraParakeet English Classic — NVIDIA, nvidia/parakeet-tdt-0.6b-v2: 48 s / 2 sParakeet English Classic NVIDIA · parakeet-tdt-0.6b-v2Parakeet Quick — NVIDIA, nvidia/parakeet-tdt_ctc-110m: 29 s / 2 sParakeet Quick NVIDIA · parakeet-tdt_ctc-110mParakeet Standard — NVIDIA, nvidia/parakeet-tdt-0.6b-v3: 3 s / 2 sParakeet Standard NVIDIA · parakeet-tdt-0.6b-v3
ModelFoutenSnelheidEerste keerDaarna
Parakeet English ClassicNVIDIA6.2%176×48 s2 s
Bark CleanConway Research7.1%110×96 s3 s
Parakeet QuickNVIDIA7.1%288×29 s2 s
Bark VerbatimConway Research8.8%121×140 s2 s
Parakeet UltraMoondream8.8%100×85 s4 s
Parakeet StandardNVIDIA9.6%135×3 s2 s
Parakeet ReduxMoondream10.1%34×604 s26 s

Bark Clean hoort hier bij de nauwkeurigste modellen, en Bark Verbatim maakt minder fouten dan Parakeet Standard, het model waaruit ze allebei zijn getraind. Parakeet English Classic en Parakeet Quick doen het ook goed op deze talk. Dit is één spreker in één fragment, dus lees de volgorde als grof. De modelkaarten van Bark geven resultaten op zeven grotere testsets.

Wacht de eerste keer even

De eerste keer dat je een Bark-model kiest, compileert de Mac het voor de Neural Engine. Op de M2 Pro duurde dat anderhalve tot tweeënhalve minuut. utt toont Loading op de pagina Model zolang dat loopt, en wat je in de tussentijd dicteert, wacht erop. Daarna laadt Bark in twee of drie seconden.

Phonon-2 is weg

Dezelfde test liet zien dat Phonon-2 op de M2 Pro op de helft van spreeksnelheid draaide, met elke keer dat utt opstartte twaalf minuten laden. FluidAudio, dat het voor de Mac omzette, heeft het gemeten op een M5 Pro. Het staat niet meer in de lijst met modellen. Had je het gekozen, dan schakelt utt over naar Parakeet Standard.

Probeer het

Open na de update Settings, ga naar Model en kies Bark Clean of Bark Verbatim. Bark kent alleen Engels. Voor andere talen houd je een Parakeet- of Whisper-model.

Underdog Bark 3.0 en Bark 3.0 Clean zijn van Conway Research, onder licentie CC-BY-4.0. De Core ML-versie die utt draait, is omgezet door FluidInference.