گوش‌نویس
وبلاگ

تبدیل گفتار به متن چطور کار می‌کند؟ از Whisper تا نسل تازه‌ی مدل‌ها

۶ آبان ۱۴۰۵ · ۳ دقیقه مطالعه

تا چند سال پیش، سامانه‌های تشخیص گفتار برای هر زبان جداگانه و با داده‌ی برچسب‌خورده‌ی محدود ساخته می‌شدند و فارسی سهم کمی از آن‌ها داشت. این وضع با مدل‌های بزرگ چندزبانه تغییر کرد.

نقطه‌ی عطف: Whisper

در سال ۲۰۲۲، پژوهشگران OpenAI مدل Whisper را معرفی کردند (Radford و همکاران، «تشخیص گفتار مقاوم با نظارت ضعیف در مقیاس بزرگ»). این مدل با حدود ۶۸۰ هزار ساعت صدای چندزبانه‌ی همراه با متن، که از وب جمع شده بود، آموزش دید. معماری آن یک ترنسفورمر رمزگذار–رمزگشا است:
1. صدا به قطعه‌های ۳۰ ثانیه‌ای بریده و به طیف‌نگار مِل تبدیل می‌شود. طیف‌نگار مل تصویری از انرژی فرکانس‌ها در طول زمان است.
2. رمزگذار از این تصویر بازنمایی‌ای از محتوای گفتار می‌سازد.
3. رمزگشا، مانند یک مدل زبانی، متن را واژه‌به‌واژه تولید می‌کند و همزمان زبان، زمان‌بندی و نوع کار (رونویسی یا ترجمه) را هم پیش‌بینی می‌کند.

نتیجه، مدلی بود که بدون آموزش ویژه برای هر زبان، در برابر لهجه، نویز و اصطلاحات فنی مقاوم‌تر بود.

نسل تازه

از ۲۰۲۵، مدل‌های گفتار ساخته‌شده بر پایه‌ی مدل‌های زبانی بزرگ، مثل خانواده‌ی GPT-4o Transcribe، معرفی شدند. به گزارش سازندگان، خطای این مدل‌ها در آزمون‌های چندزبانه از Whisper کمتر است، به‌ویژه در صدای پرنویز و گفتار سریع. گوش‌نویس با همین نسل از مدل‌ها کار می‌کند و تفکیک گوینده، یکسان‌سازی نویسه‌های فارسی و ویرایشگر هم‌گام با صدا را به آن اضافه کرده است.

دقت را چطور می‌سنجند؟

معیار رایج، نرخ خطای واژه (WER) است: تعداد واژه‌های جاافتاده، اضافه یا اشتباه، تقسیم بر کل واژه‌های متن درست. WER برابر ۱۰٪ یعنی از هر ۱۰۰ واژه حدود ۱۰ واژه نیاز به اصلاح دارد. این عدد به کیفیت صدا، لهجه، موضوع و هم‌زمان حرف زدن بستگی زیادی دارد.

چرا فارسی سخت‌تر است؟

  • فاصله‌گذاری و نیم‌فاصله: «می‌روم» و «می روم» برای مدل دو چیز متفاوت‌اند و در محاسبه‌ی خطا هم اثر دارند.
  • فاصله‌ی گفتار و نوشتار: ما «می‌خوام» می‌گوییم و «می‌خواهم» می‌نویسیم. مدل باید تصمیم بگیرد کدام را بنویسد.
  • ی و ک عربی، اعداد و واژه‌های انگلیسی وسط جمله‌های فارسی.

گوش‌نویس با یکسان‌سازی نویسه‌ها، واژه‌نامه‌ی شخصی و ویرایشگری که کلمه‌های کم‌اطمینان را نشان می‌دهد، بخش زیادی از این مشکلات را پیش از رسیدن متن به دست شما برطرف می‌کند.

منبع: Radford, A., et al. (2022). Robust Speech Recognition via Large-Scale Weak Supervision. arXiv:2212.04356.


همین حالا امتحان کنید: یک فایل کوتاه را رایگان و بدون ثبت‌نام بارگذاری کنید، یا پیام صوتی‌تان را برای ربات گوش‌نویس در بله بفرستید. برای کار بیشتر، تعرفه‌ها را ببینید.

بیشتر بخوانید