RADDKLÓNUN HLJÓMAR EINS OG VÍSINDASKÁLDSAGA EN ER NÚ ÞEGAR AÐ GERAST.

RADDKLÓNUN HLJÓMAR EINS OG VÍSINDASKÁLDSAGA EN ER NÚ ÞEGAR AÐ GERAST.

https://www.sciencealert.com/voice-cloning-sounds-like-science-fiction-but-its-already-happening

Voice Cloning Sounds Like Science Fiction, But It is Already Happening

Tech13 October 2024

By Leo S.F. Lin et al., The Conversation

Hröð þróun gervigreindar (AI) hefur haft bæði ávinning og áhættu í för með sér.

Eitt áhyggjuefnið er misnotkun raddklónunar. Á nokkrum sekúndum geta svindlarar klónað rödd og blekkt fólk til að halda að vinur eða fjölskyldumeðlimur þurfi brýnt peninga.

Fréttaveitur, þar á meðal CNN, vara við að þessar tegundir svindls geti haft áhrif á milljónir manna.

Þar sem tæknin auðveldar glæpamönnum að ráðast inn í okkar persónulegu rými, er mikilvægara en nokkru sinni fyrr að vera varkár varðandi notkun þess.

Hvað er raddklónun?

Uppgangur gervigreindar hefur skapað möguleika fyrir mynd, texta, raddframleiðslu og vélnám. (tölvulærdóm.)

Þó gervigreindin bjóði upp á marga kosti, þá veitir hún einnig svikurum nýjar aðferðir til að hagnýta sér einstaklinga fyrir peninga.

Þú gætir hafa heyrt um "djúp fölsun", (deepfakes) þar sem gervigreind er notuð til að búa til falsaðar myndir, myndbönd og jafnvel hljóð, oft með frægum einstaklingum og stjórnmálamönnum.

Raddklónun, djúpfölsunar tækni tegund, skapar stafræna eftirmynd af rödd einstaklings með því að fanga talmynstur, hreim og öndun úr stuttum hljóðbrotum.

Þegar talmynstrinu er náð getur gervigreindar raddgjafinn umbreytt texta innslætti í mjög raunhæft tal sem líkist rödd viðkomandi einstaklings.

Með vaxandi tækni er hægt að framkvæma raddklónun með aðeins þriggja sekúndna hljóðsýni.

Þó einföld setning eins og "halló, er einhver þarna?" getur leitt til raddklónunar svindls, getur lengra samtal hjálpað svindlarum að fanga fleiri raddupplýsingar. Því er best að hafa símtöl stutt þar til þú ert viss um hver það er sem hringir.

Raddklónun er dýrmæt forrit í formi afþreyingu og heilsugæslu - sem gerir listamönnum kleift að vinna fjarraddir (jafnvel eftir dauða) og aðstoða fólk með málhömlun.

Hins vegar vekur það alvarlegar áhyggjur af friðhelgi einkalífs og öryggis, sem undirstrikar þörfina á öryggisráðstöfunum.

Hvernig glæpamenn hagnýta sér þetta.

Netglæpamenn nýta raddklónunartækni til að líkja eftir frægu fólki, yfirvöldum eða venjulegu fólki til að svíkja/blekkja.

Þeir skapa neyðar ástand, öðlast traust fórnarlambsins og biðja um peninga með gjafakortum, millifærslum eða dulritunargjaldmiðli. (cryptocurrency).

Ferlið hefst með því að safnað er hljóðsýnum frá heimildum eins og YouTube og TikTok.

Næst greinir tæknin hljóðið til að búa til nýjar upptökur.

Þegar röddin hefur verið klónuð er hægt að nota hana í villandi samskiptum, oft ásamt því að svindla á númerabirtingu til að líta út fyrir að vera áreiðanlegt.

Mörg raddklónunar svindlmál hafa ratað í fyrirsagnir.

Til dæmis klónuðu glæpamenn rödd forstjóra fyrirtækis í Sameinuðu arabísku furstadæmunum til að skipuleggja rán uppá $A51 milljón dala.

Kaupsýslumaður í Mumbai varð fórnarlamb raddklónunar svindls sem fól í sér falsað símtal frá indverska sendiráðinu í Dubai.

Nýlega notuðu svindlarar raddklón Steven Miles, forsætisráðherra Queensland í Ástralíu til að reyna að blekkja  fólk til að fjárfesta í Bitcoin.

Einnig eru unglingar og börn skotmörk. Í mannránssvindli í Bandaríkjunum var rödd unglings klónuð og foreldrum hennar stjórnað til að verða við kröfunum. Hröð þróun gervigreindar (AI) hefur haft bæði ávinning og áhættu í för með sér.

Eitt áhyggjuefnið er misnotkun raddklónunar.

Á nokkrum sekúndum geta svindlarar klónað rödd og blekkt fólk til að halda að vinur eða fjölskyldumeðlimur þurfi nauðsynlega að fá peninga.

Fréttaveitur, þar á meðal CNN, vara við því að þessar tegundir svindls geti haft áhrif á milljónir manna.

Þar sem tæknin auðveldar glæpamönnum að ráðast inn í okkar persónulegu rými, er mikilvægara en nokkru sinni fyrr að vera varkár varðandi notkun þess.

Hversu útbreidd er hún?

Nýlegar rannsóknir sýna að 28% fullorðinna í Bretlandi urðu fyrir svindli með raddklónun á síðasta ári, þar sem 46% vissu ekki um tilvist þessara tegundar svindls.

Það varpar ljósi á verulegan þekkingarskort, sem gerir milljónir í hættu á að lenda fyrir svikum.

Árið 2022 greindu tæplega 240.000 Ástralar frá því að hafa verið fórnarlömb raddklónunarsvindls, sem leiddi til fjárhagslegs taps upp á $A568 milljónir.

Hvernig fólk og stofnanir geta varið sig gegn því

Áhættan sem stafar af klónun raddarinnar krefst þverfaglegra viðbragða.

Fólk og stofnanir geta innleitt ýmsar ráðstafanir til að verjast misnotkun raddklónunartækni

Í fyrsta lagi geta vitundarvakningar og fræðsla til almennings hjálpað til við að vernda fólk og stofnanir og draga úr þessum tegundum svika.

Samstarf almennings og einkaaðila getur veitt skýrar upplýsingar og samþykkis valkosti fyrir raddklónun.

Í öðru lagi ættu fólk og stofnanir að leitast við að nota líffræðileg tölfræðiöryggi með líffræðilegu kennileiti, sem er ný tækni sem getur þekkt og sannreynt lifandi rödd, öfugt við fölsun. Og stofnanir sem nota raddgreiningu ættu að íhuga að taka upp fjölþátta auðkenningu.

Í þriðja lagi er að efla rannsóknar möguleika gegn raddklónun önnur mikilvæg ráðstöfun fyrir löggæslu.

Að lokum þarf nákvæmar og uppfærðar reglur fyrir lönd til að stjórna tengdri áhættu.

Ástralska löggæslan viðurkennir hugsanlegan ávinning gervigreindar.

Þeir hafa samt áhyggjur af „dimmu  hliðinni“ á þessarari tækni og það hefur  orðið til þess að kalla eftir rannsóknum á glæpsamlegri notkun „gervigreindar til að miða út fórnarlömb“.

Það er líka kallað eftir mögulegum íhlutunaraðferðum sem löggæsla gæti notað til að berjast gegn þessu vandamáli.

Slík viðleitni ætti að tengjast heildaráætluninni um að berjast gegn netglæpum, sem einbeitir sér að fyrirbyggjandi, viðbragðs- og endurheimtunar aðferðum.

Sú landsáætlun kveður á um umönnunarskyldu þjónustuveitenda, sem endurspeglast í nýrri löggjöf ástralskra stjórnvalda til að vernda almenning og lítil fyrirtæki.

Lögin miða að nýjum skyldum til að koma í veg fyrir, uppgötva, tilkynna og trufla svindl.

Þetta mun eiga við um eftirlitsskyldar stofnanir eins og símafyrirtæki, banka og stafræna þjónustuveitendur. Markmiðið er að vernda viðskiptavini með því að koma í veg fyrir, greina, tilkynna og trufla netsvindl sem felur í sér blekkingar.

Að draga úr áhættu.

Þar sem netglæpir kosta ástralska hagkerfið um 42 milljarða Bandaríkjadala, er vitund almennings og sterkar öryggisráðstafanir nauðsynlegar.

Lönd eins og Ástralía gera sér grein fyrir vaxandi áhættu. Skilvirkni ráðstafana gegn raddklónun og öðrum svikum fer eftir aðlögunarhæfni þeirra, kostnaði, hagkvæmni og samræmi við reglur.

Allir hagsmunaaðilar - stjórnvöld, borgarar og löggæsla - verða að vera vakandi og vekja almenning til vitundar til að draga úr hættu á fórnarlömbum.

ÞÝÐANDI AGNÝ

***********************************************

SLÓÐIR.. LINKS...

https://theconversation.com/au/topics/artificial-intelligence-ai-90

https://edition.cnn.com/2024/09/18/tech/ai-voice-cloning-scam-warning/index.html

https://www.sciencealert.com/artificial-intelligence

https://www.theguardian.com/technology/2020/jan/13/what-are-deepfakes-and-how-can-you-spot-them

https://www.businesstoday.in/technology/news/story/hollywood-going-the-ai-way-how-the-new-indiana-jones-movie-de-aged-actor-harrison-ford-390481-2023-07-19

https://theconversation.com/voice-deepfakes-are-calling-heres-what-they-are-and-how-to-avoid-getting-scammed-201449

https://theconversation.com/voice-deepfakes-are-calling-heres-what-they-are-and-how-to-avoid-getting-scammed-201449

https://www.forbes.com/sites/timlammers/2024/09/09/james-earl-jones-signed-over-rights-for-ai-to-recreate-darth-vaders-voice /

https://elm.umaryland.edu/elm-stories/2024/Phantom-Voices-Defend-Against-Voice-Cloning-Attacks.php

https://www.forbes.com/sites/thomasbrewster/2021/10/14/huge-bank-fraud-uses-deep-fake-voice-tech-to-steal-millions/

https://timesofindia.indiatimes.com/city/mumbai/mumbai-businessman-falls-victim-to-ai-voice-cloning-loses-rs-80000/articleshow/109225530.cms   

https://abc7news.com/ai-voice-generator-artificial-intelligence-kidnapping-scam-detector/13122645/

https://youtu.be/E_jP1R6aiUU

https://www.starlingbank.com/news/starling-bank-launches-safe-phrases-campaign/  

https://www.superiorit.com.au/blog-posts/protecting-yourself-against-ai-voice-scams-in-australia-a-growing-threat

https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/11/preventing-harms-ai-enabled-voice-cloning

https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/11/preventing-harms-ai-enabled-voice-cloning

https://www.pindrop.com/blog/what-is-biometric-liveness-detection-and-why-is-it-important  

https://dl.acm.org/doi/pdf/10.1145/3537674.3554742  

https://www.police.nsw.gov.au/about_us/research_with_nsw_police_force/research_themes/cybercrime

https://www.homeaffairs.gov.au/criminal-justice/files/national-plan-combat-cybercrime-2022.pdf

https://treasury.gov.au/consultation/c2024-573813

https://www.unsw.edu.au/news/2021/12/cybercrime-an-estimated--42-billion-cost-to-australian-economy

 

Athugasemdir

[Ásgrímur Hartmannsson, 24.10.2024 kl. 16:29]

Mér sýnist mnn aðallega hafa verið að leika sér að þessu.

Sjá hér: https://www.youtube.com/watch?v=2Jh7Jk3aSlo

og hér: https://www.youtube.com/watch?v=W_-y-hDI3Ac

Þeir sem eru vanir autotune verða ekki varir við neitt - en ef þú hlusta vel heyrir þú að eitthvað er rangt.