AI coraz lepiej oszukuje

Tytuł: Czy odróżniamy prawdziwą mowę od deep fake'ów? Wyniki badań
Autor: pb//az TVN24 / źródło: Guardian
Źródło: https://tvn24.pl/ciekawostki/wielka-brytania-naukowcy-sprawdzili-czy-pot...
Data publikacji: 04.07.2023

Ludzie potrafią rozpoznać komunikaty głosowe wygenerowane z pomocą sztucznej inteligencji tylko w 73 procentach przypadków, ustalili badacze z University College London. Według nich alarmujące jest to, że nawet po przeszkoleniu, czym są komunikaty typu deepfake, często nie jesteśmy w stanie ich odróżniać od prawdziwej mowy.

Wyniki badania opublikowano w Center for Open Science, a w środę opisał je "Guardian". Naukowcy z University College London sprawdzili, czy ludzie są w stanie odróżnić prawdziwą mowę człowieka od sztucznie wygenerowanych komunikatów typu deepfake.

Deepfake. Badania londyńskich naukowców

Badacze wygenerowali przy użyciu sztucznej inteligencji po 50 różnych komunikatów w językach angielskim i mandaryńskim. Zastosowali w tym celu narzędzie pozwalające na zamianę tekstu na mowę. Tak stworzone komunikaty dali następnie do odsłuchania 529 uczestnikom badania, aby sprawdzić, czy będą oni w stanie poprawnie wskazać, czy nagrania powstały sztucznie.

Okazało się, że mowę wygenerowaną z pomocą AI badani poprawnie wykrywali tylko w 73 proc. przypadków. Ci, którzy udzielali poprawnej odpowiedzi zauważali, że ich uwagę w nagraniach zwracał oddech, odstępy między słowami i płynność mówiącego. Wynik ten był jedynie nieznacznie lepszy wśród uczestników badania, którym zademonstrowano, po jakich cechach taką mowę można wykryć i puszczono im kilka nagrań, informując, że są to deepfake'i. - W naszym badaniu wykazaliśmy, że przeszkolenie ludzi w zakresie wykrywania deepfake'ów niekoniecznie może pomóc im stać się w tym lepszymi - wskazała główna autorka badania Kimberly Mai.

Cały artykuł oraz materiał filmowy znajdziecie na stronie TVN24.