Интернет на снази док корисник 4Цхан-а користи симулатор АИ гласа да лажира глас Еме Вотсон, тера је да чита Хитлерову аутобиографију
Бивши запослени у Гуглу и Палантир заједно су покренули стартап Елевенлабс, који је имао за циљ да створи висококвалитетне аудио лажне лажне личности славних кроз њихов алат за клонирање гласа помоћу вештачке интелигенције. Али њихово бета лансирање убрзо је имало негативан ефекат тако што су многи злоупотребљавали гласове познатих личности, укључујући Ему Вотсон, путем алата за клонирање гласа помоћу вештачке интелигенције.
Многи фанови су разбеснели неетичком и неморалном употребом АИ алата након што су неки тролови злоупотребљавали своје омиљене гласове славних да би дали нечувене коментаре. Али стартап је уверио све да ће променити свој модел како би избегли даље проблеме.
Обожаваоци су разбеснели након што је корисник 4Цхан-а злоупотребио глас Еме Вотсон путем АИ алата
Увођење АИ алата за клонирање гласа од Елевенлабс-а запалило је интернет након што су бројни тролови искористили употребу овог бесплатног алата. Иако су многи користили софтвер за генерисање здравог садржаја, део интернета је злоупотребио алат како би натерао познате личности да избацују расне увреде и нечувене коментаре, као и злоупотребу Ема Вотсон глас је био последња кап.
Недавно. Матична плоча је пријавила екстремну злоупотребу АИ софтвера за стварање увредљивог дубоког лажног звука. Али кап која је преломила камили био је корисник 4Цхан-а, који је направио снимак Харри Поттер Звезда Ема Вотсон чита моја борба , аутобиографија нацистичког диктатора Адолфа Хитлера.
Обожаваоци су разбеснели због ове неетичке употребе софтвера о Еми Вотсон и другим познатим личностима, укључујући Џоа Рогана, Робина Вилијамса, итд. Елевенлабс, који је технологију учинио доступном јавности, позабавио се овим растућим проблемом и обећао да ће се борити против злоупотреба њиховог алата за клонирање гласа.
Такође прочитајте: Режисер 'Затвореника Азкабана' замолио трио Харија Потера да напише есеј о свом лику – Ема Вотсон је написала 16 страница, Данијел Редклиф је имао резиме од 1 странице, Руперт Гринт није написао једну
Елевенлабс обећава да ће избећи даљу злоупотребу АИ алата
Стартуп је био одушевљен позитивним одговором и на њих на почетку, јер су многи користили алатку за клонирање гласа АИ за здраво стварање. Али компанија се убрзо суочила са проблемом након што су тролови почели да искориштавају софтвер у зле сврхе. Елевенлабс је уверио интернет да дубоко истражује ствар и проналази могућа решења.
Иако су креатори Елевенлабса признали да могу да пронађу кориснике који злоупотребљавају моћ АИ алата, траже додатне безбедносне мере како би избегли овај проблем. Креатори су поделили различите идеје за решавање овог питања, што укључује увођење ручне верификације за свако клонирање и потпуну верификацију ИД-а корисника путем плаћања или било ког другог метода.
Иако је бета тестирање Стартуп-а почело мешовито, са многим фановима који су били бесни због неетичке употребе гласова славних кроз АИ алат, посебно Емма Ватсон. Али људи су такође признали стартуп зато што није отклонио ситуацију и предузео активне мере за суочавање са овим интернет троловима.
Извор: Вице
