whispertranscribe.ai 편집팀 · 최종 업데이트: 2026년 11월 · 읽는 시간: 13분 · 분류: 전사 정확도
Whisper는 얼마나 정확할까요? OpenAI 논문에 따르면 깨끗하게 낭독한 영어에서 Whisper large-v2의 단어 오류율(WER)은 2.5%였습니다. 이를 단순하게 100%에서 빼면 약 97.5%이지만 WER에는 삽입된 단어도 포함되므로 정확한 정답률과 같지는 않습니다. 더 어려운 음성에서는 전화 통화 13.6%, 시끄러운 저녁 모임 24.9%, 멀리 떨어진 마이크 하나로 녹음한 회의 39.9%로 오류율이 높았습니다.
Whisper는 OpenAI의 오픈소스 음성 인식 모델로 저희 서비스를 비롯한 여러 전사 앱에 사용됩니다. 이 가이드는 정확도에 초점을 맞춰 WER의 의미, 오디오 유형과 언어별 벤치마크, Whisper가 실패하는 상황과 직접 시험하는 방법을 다룹니다. 모델의 배경은 Whisper AI란?을 참고하세요.
대부분의 수치는 각 모델을 시험 데이터에 맞춰 추가 학습하지 않는 “제로샷” 방식으로 평가한 Whisper 논문(Radford 외, 2022)에서 왔습니다. 더 새로운 large-v3 모델 카드는 여러 언어에서 large-v2보다 오류가 10~20% 적다고 보고하지만 데이터셋별 전체 표는 제공하지 않습니다. 이 글은 whispertranscribe.ai가 발행하며 별도의 벤치마크를 수행하지 않았습니다. 여기 나온 수치는 저희의 시험 결과가 아닙니다.
Whisper 정확도 한눈에 보기
오디오에 따라 결과가 크게 달라지므로 단일 시험 세트만으로 정확도를 설명할 수 없습니다. 표는 OpenAI의 텍스트 정규화 후 빔 탐색과 온도 폴백을 사용한 large-v2 결과입니다(부록 표 9).
| 오디오 유형 | 논문의 시험 세트 | Whisper large-v2 WER | 100에서 WER을 뺀 대략적 수치 |
|---|---|---|---|
| 또렷하게 읽은 오디오북 | LibriSpeech test-clean | 2.5% | 약 97.5% |
| 낭독한 뉴스 문장 | WSJ | 2.6% | 약 97.4% |
| TED 강연 | TED-LIUM 3 | 3.7% | 약 96% |
| 더 어려운 화자의 오디오북 | LibriSpeech test-other | 4.9% | 약 95% |
| 집의 마이크를 사용한 자원봉사자 | Common Voice 5.1 | 8.2% | 약 92% |
| 전화 대화 | Switchboard | 13.6% | 약 86% |
| 긴 사회언어학 인터뷰 | CORAAL | 14.2% | 약 86% |
| 가족과 친구 간 통화 | CallHome | 16.4% | 약 84% |
| 화자별 헤드셋 마이크를 사용한 회의 | AMI IHM | 17.4% | 약 83% |
| 멀리 떨어진 마이크로 녹음한 저녁 모임 | CHiME-6 | 24.9% | 약 75% |
| 먼 테이블 마이크 하나로 녹음한 회의 | AMI SDM1 | 39.9% | 약 60% |
오른쪽 열은 100에서 WER을 뺀 단순 참고치입니다. WER은 추가된 단어도 세므로 실제로 맞힌 원문 단어의 비율과 정확히 일치하지 않습니다.
2.7%라는 수치도 자주 보이는데, 같은 모델에 더 단순한 그리디 디코딩을 사용한 결과입니다(논문 표 2). AMI 두 행은 같은 회의를 서로 다른 방식으로 녹음했습니다. 화자의 헤드셋에서 테이블 중앙으로 마이크를 옮긴 경우 오류율이 두 배 이상 높았습니다.
단어 오류율(WER)이란 무엇이며 어떻게 계산하나요?
단어 오류율은 사람이 확인한 기준 전사문과 비교해 대체, 누락, 삽입된 단어 수를 기준 단어 수로 나눈 값입니다.
WER = (대체 + 누락 + 삽입) ÷ 기준 전사문의 단어 수
- 대체: 올바른 단어 대신 다른 단어가 나온 경우. 예를 들어 영어 “launch”를 “lunch”로 잘못 적는 경우입니다.
- 누락: 말한 단어가 전사문에서 빠진 경우입니다.
- 삽입: 아무도 말하지 않은 단어가 전사문에 추가된 경우입니다.
다음은 직접 만든 한국어 예시입니다. 띄어쓰기 단위로 정렬했으며 오픈소스 jiwer 같은 라이브러리로도 비교할 수 있습니다.
| 항목 | 텍스트 |
|---|---|
| 기준 전사문: 22어절 | 우리는 공급업체가 약속한 납기를 두 번 놓치고 김 박사가 새로운 시험 계획을 원했기 때문에 최종 제품 출시 날짜를 올해 삼월 구일로 바꿨습니다 |
| 자동 전사문 | 우리는 공급업체가 약속한 납기를 두 번 놓치고 임 박사가 시험 계획을 원했기 때문에 최종 제품 식사 날짜를 올해 삼월 구일로 바꿨습니다 오늘 |
| 오류 | 대체 2개(김→임, 출시→식사), 누락 1개(새로운), 삽입 1개(오늘) |
| WER | 4 ÷ 22 = 18.2% |
WER에서 자주 놓치는 점은 세 가지입니다.
- 100%를 넘을 수 있습니다. 삽입 횟수에는 상한이 없으며 논문의 Fleurs 결과에서도 일부 저자원 언어는 100%를 넘습니다.
- 정규화 방식에 따라 점수가 바뀝니다. “Dr.”와 “doctor”는 두 텍스트를 같은 방식으로 정리하지 않으면 오류로 계산됩니다. OpenAI는 정규화로 일부 데이터셋의 WER이 최대 50% 줄었으며 주로 표기 차이가 제거된 결과라고 설명합니다.
- 일부 언어에는 문자 오류율(CER)을 사용합니다. 논문은 단어 사이 공백 사용 방식이 다른 중국어, 일본어, 태국어, 라오어, 버마어에서 문자 단위로 평가합니다.
시험 세트와 채점 방법을 밝히지 않은 정확도 수치는 저희를 포함해 누가 제시하든 측정 결과로 받아들이기 어렵습니다.
Whisper의 영어 정확도는 어느 정도인가요?
Whisper는 선명한 영어에서 높은 정확도를 보이며 어려운 영어 오디오도 처리할 수 있습니다. 논문에서 Whisper는 LibriSpeech 점수가 거의 같은 지도 학습 wav2vec 2.0 모델보다 나머지 영어 데이터셋 12개 전반에서 오류가 55.2% 적었습니다.
긴 녹음
Whisper는 오디오를 30초 구간으로 읽으므로 논문은 긴 파일을 별도로 시험했습니다(부록 표 16, large-v2).
| 장시간 시험 세트 | 내용 | WER |
|---|---|---|
| TED-LIUM 3 | TED 강연 전체 11개 | 3.5% |
| Meanwhile | 드문 단어가 많은 심야 TV 코너 64개 | 5.1% |
| Kincaid46 | 2018년 비교에 사용한 다양한 녹음 46개 | 8.8% |
| Earnings-21 | 기업 실적 발표 통화 | 9.7% |
| Rev16 | 팟캐스트 에피소드 16개 | 11.3% |
| Earnings-22 | 다양한 억양의 실적 발표 통화 | 12.6% |
| CORAAL | 아프리카계 미국인 영어 인터뷰 전체 231개 | 19.6% |
Whisper와 인간 전사자의 비교
OpenAI는 Kincaid46 녹음 25개를 인간 전사 서비스 네 곳과 컴퓨터 보조 서비스 한 곳에 맡겼습니다. 컴퓨터 보조 서비스의 오류율은 Whisper보다 1.15%포인트 낮았고 순수 인간 서비스도 소수점 단위로 더 낮았습니다. 논문은 완벽하지는 않지만 인간 수준의 정확도에 매우 가깝다고 평가했습니다.
모델 크기도 중요합니다
Whisper에는 여러 크기가 있고 앱에서 어떤 모델을 사용하는지 항상 밝히지는 않습니다(부록 표 9).
| 모델 | 매개변수 | LibriSpeech clean | Common Voice 5.1 | Switchboard | CHiME-6 |
|---|---|---|---|---|---|
| tiny | 39M | 6.7% | 26.1% | 18.3% | 48.0% |
| base | 74M | 4.9% | 19.4% | 15.6% | 40.0% |
| small | 244M | 3.3% | 12.8% | 13.3% | 30.9% |
| medium | 769M | 2.7% | 9.7% | 13.2% | 27.6% |
| large-v2 | 1550M | 2.5% | 8.2% | 13.6% | 24.9% |
오디오가 어려워질수록 차이가 커집니다. 깨끗한 오디오북에서는 약 4%포인트, 저녁 모임에서는 약 23%포인트입니다. 새로운 turbo 모델은 최적화한 large-v3로, 훨씬 빠른 전사와 맞바꾸는 정확도 저하가 작다고 OpenAI의 GitHub README는 설명합니다.
다른 언어에서 Whisper의 정확도
영어 외 언어에서는 해당 언어의 학습 오디오 양에 따라 정확도가 크게 달라집니다. 논문은 학습 시간의 로그와 WER의 로그 사이 결정계수가 0.83이며 데이터가 16배 증가할 때마다 WER이 절반으로 줄어든다고 추정합니다. 영어 외 96개 언어 대부분의 학습량은 1,000시간 미만이었습니다.
다음은 large-v2의 Fleurs 낭독 문장 결과 일부입니다(부록 표 13).
| 언어 | Fleurs 오류율 | 참고 |
|---|---|---|
| 스페인어 | 3.0% | 표에서 가장 낮음 |
| 영어 | 4.2% | |
| 포르투갈어 | 4.3% | |
| 독일어 | 4.5% | |
| 일본어 | 5.3% | 문자 오류율 |
| 러시아어 | 5.6% | |
| 프랑스어 | 8.3% | |
| 한국어 | 14.3% | 이상치로 표시 |
| 중국어 | 14.7% | 문자 오류율 |
| 아랍어 | 16.0% | |
| 힌디어 | 21.5% | |
| 히브리어 | 27.1% | 이상치로 표시 |
| 스와힐리어 | 39.3% | |
| 텔루구어 | 99.0% | 이상치로 표시 |
논문은 히브리어, 텔루구어, 중국어, 한국어가 학습 데이터 양으로 예측한 것보다 낮은 성능을 보였다고 표시하며 언어적 거리, 해당 문자 체계에 잘 맞지 않는 토크나이저 또는 데이터 품질을 가능한 이유로 언급합니다. Fleurs는 낭독 음성이므로 대화에서는 오류율이 더 높을 수 있습니다. README에는 Common Voice 15와 Fleurs에서 large-v3와 large-v2를 비교한 최신 그래프가 있습니다.
스페인어 오디오를 텍스트로 전사할 때 스페인어 결과는 고무적입니다. 저자원 언어는 전체 작업 전에 짧은 클립을 시험하세요.
Whisper 정확도에 영향을 주는 요인
녹음 환경이 매우 중요합니다. 논문과 모델 카드에 나온 근거는 다음과 같습니다.
| 요인 | 근거에서 보이는 내용 | 대응 방법 |
|---|---|---|
| 배경 소음 | 술집 소음에서 신호대잡음비가 10dB 미만일 때 Whisper가 비교 모델 14개보다 나았지만 모든 모델은 소음이 커지면 성능이 떨어짐 | 팬과 음악을 피해 조용한 방에서 녹음 |
| 마이크 거리 | 같은 AMI 회의에서 헤드셋 마이크 17.4%, 테이블 마이크 하나 39.9% | 말하는 사람 가까이에 마이크 두기 |
| 대화와 겹치는 발화 | 전화 통화와 저녁 모임은 13.6~24.9%, 낭독 음성은 2.5% | 한 번에 한 사람씩 말하고 화자마다 마이크 사용 |
| 억양과 방언 | 모델 카드는 억양과 방언에 따라 정확도가 고르지 않다고 보고. 긴 CORAAL 인터뷰는 19.6% | 실제 녹음 화자와 비슷한 사람으로 시험 |
| 희귀 단어와 전문 용어 | 전문 용어가 많은 Meanwhile에서 5.1%였지만 이름과 기술 용어 오류는 여전히 흔함 | 이름과 용어 목록에 대조 |
| 언어 자원 | Fleurs 오류율은 스페인어 3.0%부터 텔루구어 99.0%까지 다양 | 언어를 직접 선택하고 저자원 언어는 검토 시간을 더 확보 |
| 모델 크기 | CHiME-6에서 tiny는 48.0%, large-v2는 24.9% | 도구에 사용된 모델을 확인하거나 가능한 큰 모델 사용 |
| 파일 형식과 샘플링 레이트 | Whisper 코드는 모든 오디오를 16 kHz 모노로 다시 샘플링 | 깨끗한 16 kHz 파일보다 48 kHz WAV가 반드시 유리하지는 않음 |
MP3를 큰 WAV로 변환해도 사라진 정보는 복구되지 않습니다. 적당한 비트레이트로 선명하게 녹음한 파일이 고비트레이트지만 시끄러운 파일보다 나을 수 있습니다.
알려진 Whisper 문제: 환각, 반복, 타임스탬프
OpenAI는 다음 실패 유형을 각각 문서화했습니다. WER에서 차지하는 비중보다 실제 영향이 클 수 있습니다.
말하지 않은 텍스트 생성
Whisper는 아무도 말하지 않은 단어를 쓸 수 있습니다. 모델 카드는 입력 음성에 실제로 없는 텍스트가 예측에 포함될 수 있다고 설명하며, 모델이 다음에 나올 법한 단어도 예측하기 때문일 수 있다고 지적합니다. 논문의 한계 절도 오디오와 무관한 “완전한 환각”을 언급합니다.
독립 연구 Careless Whisper(Koenecke 외, 2024)는 2023년 4~5월 OpenAI의 Whisper API에 오디오 구간 13,140개를 입력했습니다. 전사 결과의 약 1%, 평균 1.4%에 완전히 만들어 낸 구절이나 문장이 있었고 그중 38%에는 폭력이나 잘못된 연관성 같은 유해한 내용이 포함됐습니다. 연구에 참여한 실어증 화자처럼 말 사이의 정지가 긴 사람에게서 더 자주 나타났습니다. 이후 API가 바뀌었으므로 이는 2023년 측정치로 보아야 합니다.
반복과 단어 누락
모델 카드는 Whisper가 반복적인 텍스트를 생성하는 경향이 있으며 빔 탐색과 온도 조절로 줄일 수 있지만 완전히 없애지는 못한다고 설명합니다. 논문은 구간의 첫 단어나 마지막 단어가 빠지는 문제도 언급합니다. 디코딩 수정으로 긴 녹음의 평균 WER이 11.0%에서 10.0%로 줄었지만 문제가 해결된 것은 아닙니다.
침묵, 음악, 군더더기 말
긴 침묵이나 음악에서 만들어 낸 텍스트가 나타나는 경향이 있습니다. 논문은 Whisper의 자체 “음성 없음” 신호만으로는 신뢰하기 어렵다고 밝혔으며, 오픈소스 코드에는 환각 가능성이 감지될 때 긴 침묵을 건너뛰는 옵션이 추가되어 있습니다.
타임스탬프 오차와 긴 파일
Whisper는 긴 오디오를 한 번에 30초씩 처리하고 자신이 예측한 타임스탬프로 다음 구간의 위치를 정하므로, 논문에 따르면 한 구간의 오류가 다음 구간으로 이어질 수 있습니다. 단어 단위 타임스탬프는 코드에서 “실험적”으로 표시되어 있습니다. 자막은 멈춤 주변의 타이밍을 표본 확인하세요.
개발 중 OpenAI는 Whisper가 화자 이름을 추측하는 경우도 발견했는데 대부분 틀렸습니다. 공개 모델은 이를 줄이도록 추가 학습됐지만 텍스트의 이름은 확인해야 합니다.
Whisper 전사 정확도를 개선하는 10가지 방법
대부분은 전사를 누르기 전에 할 수 있습니다. 대략 영향이 큰 순서입니다.
- 마이크를 가까이 둡니다. AMI 회의에서는 거리 차이만으로 오류율이 두 배 이상 달랐습니다.
- 소음의 원인을 줄입니다. 창문을 닫고 팬을 끄고 음악을 멈춥니다.
- 겹쳐 말하지 않습니다. 한 번에 한 사람씩 말하는 편이 설정보다 중요합니다.
- 긴 침묵과 음악 도입부를 잘라냅니다. 이 구간에는 만들어 낸 텍스트가 나타나기 쉽습니다. 문장 중간이 아니라 멈춘 곳에서 자릅니다.
- 언어를 직접 설정합니다. Whisper는 Fleurs의 82개 언어에서 언어를 80.3% 정확히 식별했으므로 짧거나 억양이 강한 클립은 자동 감지가 틀릴 수 있습니다.
- 사용할 수 있는 가장 큰 모델을 선택합니다. 특히 시끄러운 녹음에서 유용합니다.
- 직접 호스팅한다면 이름과 용어를 프롬프트로 제공합니다. 오픈소스 Whisper는 예상 철자를 담은
--initial_prompt를 받습니다. - 원본 파일을 업로드합니다. 스피커로 다시 녹음하거나 반복 압축하면 정보가 사라집니다.
- 용어를 확인합니다. 모든 이름, 숫자, 날짜, 약어를 검색하고 오디오와 대조합니다.
- 두 번 검토합니다. 먼저 정상 속도로 오류를 고친 뒤 반복된 줄, 침묵 중 문장, “시청해 주셔서 감사합니다” 같은 맺음말 등 환각 징후를 살펴봅니다. 법률, 의료, 출판용 자료는 사람이 전체를 검토해야 합니다.
내 오디오에서 Whisper 정확도를 측정하는 방법
실제 작업의 가장 좋은 추정치는 자신의 녹음을 약 30분 동안 시험해 보는 것입니다. 아래는 직접 실행할 단계이며 whispertranscribe.ai의 시험 결과가 아닙니다.
- 각 2분짜리 클립 세 개를 고릅니다. 실제 작업과 비슷한 쉬운 것, 보통인 것, 어려운 것을 하나씩 준비합니다.
- 기준 전사문을 직접 작성합니다. 한 단어씩 적고 “음” 같은 군더더기와 숫자를 숫자로 쓸지 문자로 쓸지 먼저 규칙을 정합니다.
- 각 클립을 전사합니다. 시험할 도구로 처리하고 일반 텍스트로 저장합니다.
- 두 텍스트를 같은 방식으로 정규화합니다. OpenAI의 영어 정규화기는
openai-whisper에 포함됩니다. - jiwer로 WER을 계산합니다.
# pip install jiwer openai-whisper
import jiwer
from whisper.normalizers import EnglishTextNormalizer
norm = EnglishTextNormalizer()
ref = norm(open("reference.txt", encoding="utf-8").read())
hyp = norm(open("transcript.txt", encoding="utf-8").read())
out = jiwer.process_words(ref, hyp)
print(f"WER {out.wer:.1%} S={out.substitutions} D={out.deletions} I={out.insertions}")
- 중요한 오류는 별도로 셉니다. 군더더기 말 다섯 개와 고객 이름 다섯 개가 틀린 경우 WER은 같아도 문제의 크기는 다릅니다.
- 결과를 기록합니다. 도구나 설정을 비교할 수 있습니다.
| 클립 | 조건 | 기준 단어 수 | S | D | I | WER | 중요한 오류 |
|---|---|---|---|---|---|---|---|
| 클립 A | 조용한 방, 화자 한 명 | 310 | |||||
| 클립 B | 화상 통화, 화자 두 명 | 285 | |||||
| 클립 C | 카페, 억양이 있는 화자 | 296 |
단어 수는 예시입니다. 4단계의 정규화는 표기에 따라 결과를 바꿀 수 있으므로 점수만 믿기 전에 표시된 차이를 읽어보세요. 위 코드는 영어 정규화기를 사용합니다. 한국어 등 다른 언어는 적절한 정규화와 단어 또는 문자 분리 기준을 따로 정해야 합니다.
whispertranscribe.ai의 정확도는 어느 정도인가요?
whispertranscribe.ai는 Whisper를 사용하는 웹 기반 AI 전사 도구로 130개 이상의 언어와 최대 5GB, 10시간 업로드를 지원합니다. 깨끗한 오디오에서 정확도는 최대 99%에 이를 수 있지만 배경 소음, 강한 억양, 겹치는 발화가 있으면 낮아집니다. 위 벤치마크는 Whisper 자체의 결과입니다. 저희가 논문 수치와 같거나 더 낫다고 주장하는 것은 아니며 자체 벤치마크를 공개하지 않았으므로 위 단계로 자신의 클립을 시험하세요.
- 많은 언어 선택 항목에 Noise / Low-Quality Audio/Video 옵션을 제공합니다. 시끄러운 파일은 일반 옵션과 저음질 옵션을 비교해 보세요.
- 130개 이상의 언어, Multilingual Mix, 오디오 영어 번역을 제공합니다.
- 최대 5GB, 10시간 파일, 화자 감지, 타임스탬프를 지원합니다(전체 기능).
- 선명한 입력: 마이크를 가까이 두고 브라우저에서 녹음하거나 동영상을 MP3로 변환해 오디오만 업로드합니다.
- DOCX, PDF, TXT, CSV, SRT, VTT 내보내기와 타이밍 자막용 자막 생성기를 제공합니다.
계정 없이 무료로 시작할 수 있습니다. 유료 요금제는 연간 결제 시 월 $9.99부터입니다(요금 안내).
자주 묻는 질문
Whisper는 99% 정확한가요?
일반적으로 그렇게 단정할 수 없습니다. 이 글에서 소개한 Whisper의 깨끗하게 낭독한 오디오북 시험인 LibriSpeech test-clean 결과는 WER 2.5%입니다. 100에서 WER을 빼면 약 97.5%이지만 정확한 정답률은 아닙니다. 전화 통화, 회의, 시끄러운 방에서 OpenAI가 보고한 수치는 약 13~40% WER입니다. “99%”라는 주장은 측정에 사용한 오디오를 밝혀야 의미가 있습니다. whispertranscribe.ai를 포함한 Whisper 기반 도구는 홍보 수치보다 자신의 녹음으로 평가해야 합니다.
어떤 Whisper 모델이 가장 정확한가요?
대형 모델의 정확도가 가장 높습니다. OpenAI 논문에서는 large-v2가 대부분의 시험 세트에서 가장 낮은 오류율을 보였고 large-v3 모델 카드는 여러 언어에서 large-v2보다 오류가 10~20% 적다고 보고합니다. turbo는 최적화한 large-v3로 OpenAI에 따르면 속도를 높이는 대신 정확도 손실이 작습니다. 가장 작은 tiny 모델은 어려운 오디오에서 정확도가 훨씬 낮습니다. 시끄러운 저녁 모임에서 tiny의 WER은 48.0%, large-v2는 24.9%였습니다.
Whisper가 말하지 않은 단어를 쓰는 이유는 무엇인가요?
Whisper는 음성을 전사하는 동시에 나올 법한 텍스트도 예측하도록 학습했기 때문에 환각을 일으킬 수 있으며, OpenAI 모델 카드는 오디오에 없는 텍스트가 출력될 수 있다고 경고합니다. 긴 침묵, 음악, 소음에서 자주 나타납니다. 2023년 독립 연구는 약 1%의 전사문에서 만들어 낸 구절을 발견했고 긴 멈춤에서 발생 가능성이 더 높았습니다. 침묵을 줄이고 언어를 설정하며 조용한 구간의 전사문을 검토하면 위험을 줄일 수 있습니다.
억양이 있는 음성에서 Whisper는 얼마나 정확한가요?
Whisper는 많은 이전 시스템보다 억양을 잘 처리하지만 모든 억양에서 일정하지는 않습니다. OpenAI 모델 카드는 같은 언어의 억양과 방언에 따라 정확도가 달라진다고 설명합니다. 논문에서 아프리카계 미국인 영어의 긴 CORAAL 인터뷰는 19.6% WER, TED 강연 전체는 3.5%였지만 녹음 조건도 서로 다릅니다. 실제 녹음과 비슷한 화자의 클립을 시험하고 강한 억양에는 검토 시간을 더 배정하는 것이 신뢰할 만한 방법입니다.
Whisper는 사람 전사자만큼 정확한가요?
영어에서 근접하지만 가장 좋은 결과와 같지는 않습니다. OpenAI는 녹음 25개에서 전문 서비스 다섯 곳과 비교했습니다. 컴퓨터 보조 서비스의 전체 WER은 Whisper보다 1.15%포인트 낮았고 완전한 인간 서비스 네 곳도 소수점 단위로 더 낮았습니다. 사람은 이름, 겹치는 발화, 불명확한 음성을 더 잘 처리하는 경향이 있습니다. 인용, 제출, 게시할 내용은 사람이 녹음과 전사문을 대조해야 합니다.
영어가 아닌 언어에서 Whisper는 얼마나 정확한가요?
언어에 따라 크게 다릅니다. Fleurs 벤치마크에서 large-v2의 WER은 스페인어 3.0%, 독일어 4.5%, 프랑스어 8.3%였지만 히브리어는 27.1%, 텔루구어는 99.0%였습니다. 중국어와 일본어는 문자 오류율로 각각 14.7%, 5.3%였습니다. 논문은 언어별 학습 오디오 양과 정확도가 관련된다고 밝혔습니다. 저자원 언어는 짧은 클립을 먼저 시험하고 수정 시간을 더 확보하세요.
내 녹음으로 정확도 시험하기
벤치마크는 다른 사람의 오디오를 설명합니다. 130개 이상의 언어 중 하나로 된 클립을 whispertranscribe.ai에 업로드하고 이 가이드의 단계에 따라 점수를 계산하세요. 계정 없이 무료로 시작하거나 요금제 비교를 할 수 있습니다.
관련 글: Whisper AI란? · 최고의 무료 전사 소프트웨어 · TurboScribe 대안 · YouTube 동영상 전사 방법 · SRT 파일이란? · 하드 자막과 소프트 자막
참고 자료
- Radford 외: Robust Speech Recognition via Large-Scale Weak Supervision(OpenAI Whisper 논문, 2022), 표 2, 9, 13, 16 및 3~6절
- OpenAI: GitHub의 openai/whisper, README 모델 표와 turbo 설명, 언어별 WER 그래프
- OpenAI 및 Hugging Face: whisper-large-v3 모델 카드, large-v3 변경 사항, 평가 용도와 한계
- Koenecke 외: Careless Whisper: Speech-to-Text Hallucination Harms(2024)
- jiwer: WER과 CER을 계산하는 오픈소스 라이브러리
- Hugging Face: Open ASR Leaderboard, 정기적으로 업데이트되는 오픈 음성 모델의 독립 비교
