Hugsanleg áhætta af gervigreind

Hver er hugsanleg hætta á gervigreind?

Gervigreind, eða gervigreind eins og það er líka oft nefnt, er efni sem hefur verið mikið rætt á síðasta áratug. Það er að þróast hratt og gerir vinnuflæði flestra fyrirtækja auðveldara og skilvirkara. Jafnvel í daglegu lífi margra hefur gervigreind sýnt mikla möguleika og er nú þegar verið að innleiða það í mörgum mismunandi öppum, sem gerir lífið auðveldara og minna flókið. AI hefur fært okkur marga kosti og vísindin eru að ryðja brautina fyrir miklu meira sem kemur svo það er óhætt að segja að AI verði ómissandi í framtíðinni, ef það er ekki þegar.

En eins og sérhver medalía hefur tvær hliðar, hefur gervigreind líka. Þessi tækni fylgir einnig mörgum hugsanlegum áhættum og ókostum. Margir sérfræðingar og tæknimeistarar okkar tíma lýsa áhyggjum sínum yfir þeim vandamálum sem gervigreind gæti valdið í framtíðinni og því þurfum við að gæta þess að taka á þessum málum á meðan enn er hægt að leiðrétta þau. Hvað meinum við með því?

Það er margt sem þarf að huga að varðandi þessi tilteknu mál. Í þessari grein munum við reyna að lýsa sumum áhættum sem töfrandi hröð þróun gervigreindar gæti haft í för með sér fyrir heiminn okkar og hvaða ráðstafanir þarf að grípa til til að fylgjast með og leiðbeina þeim framförum í rétta átt.

1. Störf

Við erum viss um að allir hafi nú þegar haft tækifæri til að heyra eða lesa um mögulega skemmtun sem vélar og sjálfvirkni gætu veitt gömlum skóla, mannlegum vinnustöðum. Sumt fólk gæti þjáðst af ýmsum kvíða vegna véla sem stela vinnunni þeirra. Sá ótti gæti verið á rökum reistur, sjálfvirkni starfsins er mikil áhætta fyrir marga: um 25% Bandaríkjamanna gætu misst vinnuna vegna þess að á einhverjum tímapunkti munu vélar geta komið í stað þeirra. Sérstaklega í hættu eru láglaunastörf þar sem einstaklingur vinnur endurtekin verkefni, eins og störf í stjórnsýslu eða matarþjónustu. Hins vegar, jafnvel sumir háskólamenntaðir eru í hættu, háþróuð vélnámsreiknirit gætu komið í stað þeirra í sumum flóknum vinnustöðum vegna þess að þeir eru að verða fágaðari, sérstaklega með notkun tauganeta og djúpnáms.

En við getum í raun ekki sagt að vélmenni muni ýta mönnum algjörlega út af vinnumarkaðinum. Starfsmenn verða einfaldlega að laga sig, mennta sig og finna leið til að vinna með því að vinna með gervigreind og nýta sem best skilvirkni þess og vélrænni rökfræði. Gervigreind er ekki enn fullkomin, til dæmis er það ekki hægt að dæma, þannig að mannlegi þátturinn mun samt ráða úrslitum þegar unnið er við hlið véla.

Það er mikið af gervigreind tækni sem notar sjálfvirkar lausnir sem þarf að þjálfa og þessi þjálfun er háð inntaki manna. Gott dæmi um þetta eru vélþýðingar sem fá inntak frá miklum fjölda þýðinga sem framleiddar eru af mönnum. Annað gott dæmi er uppskriftarhugbúnaður sem fær þjálfunargögnin úr nákvæmum umritunum sem gerðar eru af faglegum mannlegum umritarar. Þannig eykst hugbúnaðurinn smátt og smátt og betrumbætir reiknirit sín með raundæmum. Mannlegir umritarar njóta góðs af hugbúnaðinum vegna þess að hann hjálpar þeim að gera afrit hraðar. Hugbúnaðurinn býr til grófa drög að útgáfu af afritinu, sem síðan er breytt og leiðrétt af afritaranum. Þetta sparar mikinn tíma og gerir það að verkum að á endanum verður endanleg vara afhent hraðar og verður nákvæmari.

2. Vandamál hlutdrægni

Það frábæra við reiknirit er að þeir taka alltaf sanngjarnar, hlutdrægar ákvarðanir, í mikilli andstöðu við huglægt og tilfinningalegt fólk. Eða gera þeir það? Sannleikurinn er sá að ákvarðanatökuferli sérhvers sjálfvirks hugbúnaðar fer eftir gögnunum sem þeir hafa verið þjálfaðir í. Þannig að það er hætta á mismunun þegar til dæmis ákveðinn hópur íbúa er ekki nógu fulltrúi í notuðum gögnum. Nú þegar er verið að rannsaka andlitsþekkingarhugbúnað vegna sumra þessara vandamála, tilvik um hlutdrægni hafa þegar átt sér stað.

Eitt frábært dæmi um hversu hlutdræg gervigreind getur verið er COMPAS (Correctional Offender Management Profiling for Alternative Sanctions). Þetta er áhættu- og þarfamatstæki til að spá fyrir um ítrekunarhættu meðal afbrotamanna. Þetta tól sem byggir á reiknirit var rannsakað og niðurstöður hafa sýnt að COMPAS gögnin voru alvarlega kynþáttafordómar. Til dæmis, samkvæmt gögnunum, voru afrísk-amerískir sakborningar líklegri til að vera ranglega dæmdir í meiri hættu á endurkomu en aðrir kynþættir. Reikniritið hafði einnig tilhneigingu til að gera öfug mistök með fólki af hvítum kynstofni.

Svo, hvað gerðist hér? Reikniritið er gagnaháð þannig að ef gögnin eru hlutdræg mun hugbúnaðurinn líklega einnig gefa hlutdrægar niðurstöður. Stundum hefur það líka eitthvað að gera með hvernig gögnunum var safnað.

Sjálfvirk talgreiningartækni getur einnig verið hlutdræg eftir kyni eða kynþætti vegna þess að þjálfunargögn eru ekki endilega valin í efni sem myndi tryggja nægilega innifalið.

3. Öryggissjónarmið

Það eru nokkur vandamál með gervigreind sem eru svo hættuleg að þau geta leitt til slysa. Eitt af áberandi dæmum um beitt gervigreind tækni er sjálfkeyrandi bíllinn. Margir sérfræðingar telja að þetta sé framtíð samgangna. En aðalatriðið sem hindrar tafarlausa innleiðingu sjálfkeyrandi bíla í umferð eru bilanir þeirra sem gætu stofnað lífi farþega og gangandi vegfarenda í hættu. Umræðan um ógnina sem sjálfstætt ökutæki gætu valdið á vegum er enn mjög raunveruleg. Það er til fólk sem heldur að minni slys gætu orðið ef sjálfkeyrandi bílar yrðu leyfðir á veginum. Á hinn bóginn eru rannsóknir sem hafa sýnt að þær gætu valdið mörgum slysum, vegna þess að margar aðgerðir þeirra munu byggjast á óskum sem ökumaðurinn setur. Nú er það hönnuðanna að velja á milli öryggis og lífs og óska ökumanns (eins og meðalhraða og aðrar akstursvenjur). Meginmarkmið sjálfkeyrandi bíla ætti í öllum tilvikum að vera að fækka bílslysum, með innleiðingu skilvirkra gervigreindar reiknirita og háþróaðra skynjara sem geta greint og jafnvel spáð fyrir um allar mögulegar umferðaratburðarásir. Hins vegar er raunveruleikinn alltaf flóknari en hvaða forrit sem er, þannig að takmarkanir þessarar tækni eru enn einn af takmarkandi þáttunum fyrir útbreiðslu hennar. Annað vandamál er þáttur trausts. Fyrir marga með margra ára og margra ára reynslu af akstri gæti verið litið á það sem táknræna uppgjöf fyrir stafrænni þróun að setja allt traust í stafrænar hendur. Hvað sem því líður, þar til allt þetta er leyst, hafa nokkrar háþróaðar tæknilausnir þegar verið innleiddar í nýrri bíla og mannlegir ökumenn geta notið góðs af ýmsum skynjurum, aðstoð við hemlun og hraðastýra.

4. Illgjarn tilgangur

Tæknin á að þjóna þörfum fólks og nýtast til að gera líf þess auðveldara, ánægjulegra og hún á að spara dýrmætan tíma allra. En stundum hefur gervigreind tækni einnig verið notuð í illgjarn tilgangi, á þann hátt sem skapar verulega hættu fyrir líkamlegt, stafrænt og pólitískt öryggi okkar.

• Líkamlegt öryggi: Ein hugsanleg hætta á gervigreind, sem hljómar nokkuð dramatísk í fyrstu og gæti kælt þig inn að beinum þínum, er hugsanlegt stríð milli tæknivæddra landa, framkvæmt með sjálfstæðum vopnakerfum sem eru forritaðar til að drepa á sem skilvirkastan og miskunnarlausan hátt. Þess vegna er afar mikilvægt að stjórna þróun slíkrar hertækni með sáttmálum, reglugerðum og refsiaðgerðum, til að vernda mannkynið frá ógnvekjandi hættu á gervigreindum hernaði.
• Stafrænt öryggi: Tölvuþrjótar eru nú þegar ógn við stafrænt öryggi okkar og gervigreindarhugbúnaður er þegar notaður fyrir háþróaða reiðhestur. Með þróun slíks hugbúnaðar verða tölvuþrjótar skilvirkari í misgjörðum sínum og auðkenni okkar á netinu verður viðkvæmara fyrir þjófnaði. Persónuvernd persónuupplýsinga þinna gæti verið enn meira í hættu með lúmskur spilliforriti, knúin gervigreind og gert enn hættulegra með því að nota djúpt nám. Ímyndaðu þér stafrænan þjóf, sem leynist aftan á uppáhaldsforritunum þínum, verður slægari dag frá degi, lærir af milljón raunveruleikadæmum um hugbúnaðarnotkun og býr til flókna auðkennisþjófnað byggt á þessum gögnum.

• Pólitískt öryggi: á þeim ólgutímum sem við lifum á er ótti við falsfréttir og svikaupptökur alveg réttmæt. Gervigreind gæti valdið miklum skaða með sjálfvirkum óupplýsingaherferðum, sem geta verið mjög hættulegar í kosningum.

Svo að lokum gætum við spurt okkur hversu mikinn skaða gervigreind gæti valdið okkur og getur hún gert mannkyninu meiri skaða en gagn.

Sérfræðingar fullyrða að siðferðileg þróun og eftirlitsstofnanir muni spila stóran þátt þegar kemur að því að draga úr þeim ókostum sem gervigreind gæti valdið lífi okkar. Hvað sem gerist þá erum við viss um að það muni hafa gríðarleg áhrif á heiminn okkar í framtíðinni.

Talgreiningarhugbúnaður, byggður á háþróaðri gervigreindarsamskiptareglum, er nú þegar í notkun og hann færir viðskiptaheiminum marga kosti: vinnuflæði eru hraðari og einfaldari. Gglot er stór aðili á þessu sviði og við erum að fjárfesta mikið í að þróa tækni okkar frekar.