Хавфҳои эҳтимолии зеҳни сунъӣ

Баъзе хатарҳои эҳтимолии зеҳни сунъӣ кадомҳоянд?

Зеҳни сунъӣ ё AI, тавре ки онро аксар вақт номида мешавад, мавзӯъест, ки дар даҳсолаи охир бисёр баррасӣ шудааст. Он босуръат инкишоф ёфта, ҷараёни кори аксари корхонаҳоро осонтар ва самараноктар мекунад. Ҳатто дар ҳаёти ҳаррӯзаи бисёр одамон AI потенсиали бузургро нишон дод ва аллакай дар бисёр барномаҳои гуногун татбиқ карда мешавад, ки ҳаётро осонтар ва мушкилтар мекунад. AI ба мо бартариҳои зиёд овард ва илм барои ояндаи бештар роҳ мекушояд, аз ин рӯ метавон гуфт, ки AI дар оянда ҳатмӣ хоҳад буд, агар он ҳоло ҳам набошад.

Аммо чӣ тавре ки ҳар як медал ду тараф дорад, AI низ ҳамин тавр аст. Ин технология инчунин бо бисёр хатарҳо ва нуқсонҳои эҳтимолӣ меояд. Бисёре аз коршиносон ва устоҳои техникии замони мо нигаронии худро аз мушкилоте, ки AI метавонад дар оянда ба вуҷуд орад, изҳори нигаронӣ мекунанд ва аз ин рӯ, мо бояд барои ҳалли ин масъалаҳо эҳтиёткор бошем, дар ҳоле ки онҳоро ислоҳ кардан мумкин аст. Мо бо ин чиро дар назар дорем?

Дар робита ба ин масъалаҳо чизҳои зиёде ҳастанд, ки бояд ба назар гирифта шаванд. Дар ин мақола мо кӯшиш хоҳем кард, ки баъзе хатарҳоеро тавсиф кунем, ки рушди босуръати AI метавонад ба ҷаҳони мо оварда расонад ва барои назорат ва роҳнамоии ин пешрафт ба самти дуруст чӣ чораҳо андешидан лозим аст.

1. Корҳо

Мо итминон дорем, ки ҳама аллакай имкон доштанд, ки дар бораи табобате, ки мошинҳо ва автоматика метавонанд ба мактаби кӯҳна ва ҷойҳои кории одамон пешкаш кунанд, бишнаванд ё бихонанд. Баъзе одамон метавонанд аз дараҷаҳои гуногуни изтироб дар бораи мошинҳое, ки кори онҳоро дуздидаанд, азоб кашанд. Ин тарс метавонад асоснок бошад, автоматизатсияи кор барои бисёр одамон хатари бузург аст: тақрибан 25% амрикоиҳо метавонанд ҷои кори худро аз даст диҳанд, зеро дар баъзе вақт мошинҳо метавонанд онҳоро иваз кунанд. Махсусан дар зери хатар вазифаҳои каммузд қарор доранд, ки дар он шахс вазифаҳои такроршавандаро иҷро мекунад, ба монанди кор дар маъмурият ё хидматрасонии хӯрокворӣ. Бо вуҷуди ин, ҳатто баъзе хатмкунандагони донишгоҳҳо дар хатаранд, алгоритмҳои омӯзиши мошинҳои пешрафта метавонанд онҳоро дар баъзе вазифаҳои мураккаби корӣ иваз кунанд, зеро онҳо, махсусан тавассути истифодаи шабакаҳои нейронӣ ва омӯзиши амиқ такмил меёбанд.

Аммо мо аслан гуфта наметавонем, ки роботҳо одамонро аз бозори меҳнат комилан берун мекунанд. Кормандон бояд танҳо мутобиқат кунанд, худро таълим диҳанд ва роҳи кореро тавассути ҳамкорӣ бо AI пайдо кунанд, то ҳадди имкон самаранокии он ва мантиқи механикиро истифода баранд. AI ҳоло ҳам комил нест, масалан, вай қодир нест, ки зангҳои доварӣ кунад, бинобар ин, омили инсонӣ ҳангоми кор дар баробари мошинҳо ҳалкунанда хоҳад буд.

Технологияҳои зиёде дар асоси AI вуҷуд доранд, ки қарорҳои автоматиро истифода мебаранд, ки бояд омӯзонида шаванд ва ин омӯзиш аз саҳми инсон вобаста аст. Намунаи хубе барои ин тарҷумаҳои мошинист, ки аз шумораи зиёди тарҷумаҳои тавлидшудаи инсон саҳм мегиранд. Мисоли дигари хуб ин нармафзори транскриптӣ мебошад, ки маълумоти омӯзишро аз транскриптҳои дақиқе, ки аз ҷониби транскрипторҳои касбии инсон анҷом дода шудаанд, ба даст меорад. Ҳамин тариқ, нармафзор тадриҷан такмил меёбад ва алгоритмҳои худро тавассути мисолҳои ҳаёти воқеӣ такмил медиҳад. Транскрипторҳои инсонӣ аз нармафзор манфиат мегиранд, зеро он ба онҳо кӯмак мекунад, ки транскриптҳоро тезтар созанд. Нармафзор версияи ноҳамвор ва лоиҳаи стенограммаро тавлид мекунад, ки баъдан аз ҷониби транскриптор таҳрир ва ислоҳ карда мешавад. Ин хеле вактро сарфа мекунад ва чунин маъно дорад, ки дар нихояти кор махсулоти нихой тезтар ва аниктар дода мешавад.

2. Масъалаи ғаразнокӣ

Як чизи бузург дар бораи алгоритмҳо дар он аст, ки онҳо ҳамеша дар муқоиса бо одамони субъективӣ ва эмотсионалӣ қарорҳои одилона ва ғайримуқаррарӣ қабул мекунанд. Ё онҳо? Ҳақиқат ин аст, ки раванди қабули қарорҳо дар бораи ҳама гуна нармафзори автоматӣ аз маълумоте, ки онҳо таълим гирифтаанд, вобаста аст. Ҳамин тариқ, хатари табъиз вуҷуд дорад, ки масалан, як қисми муайяни аҳолӣ дар маълумоти истифодашуда ба таври кофӣ намояндагӣ накунад. Нармафзори шинохти чеҳра барои баъзе аз ин мушкилот аллакай тафтиш карда мешавад, ҳолатҳои ғаразнок аллакай рух додаанд.

Як мисоли олиҷаноби он аст, ки зеҳни сунъӣ то чӣ андоза ғаразнок буда метавонад, COMPAS (Profiling Management Correctional Guvender for Sanctions) мебошад. Ин як воситаи арзёбии хатар ва эҳтиёҷот барои пешгӯии хатари такрори ҷиноят дар байни ҷинояткорон мебошад. Ин асбоби ба алгоритм асосёфта тафтиш карда шуд ва натиҷаҳо нишон доданд, ки маълумоти COMPAS ба таври ҷиддӣ нажодӣ ғаразнок буданд. Масалан, мувофиқи маълумот, айбдоршавандагони африқоӣ-амрикоӣ эҳтимоли нодуруст ҳукм карда мешуданд, ки нисбат ба дигар нажодҳо хатари такрори ҷиноят зиёд аст. Алгоритм инчунин майл дошт, ки бо одамони нажоди сафед хатои муқобил содир кунад.

Пас, дар ин ҷо чӣ шуд? Алгоритм аз маълумот вобаста аст, бинобар ин, агар маълумот ғаразнок бошад, нармафзор эҳтимолан натиҷаҳои ғаразнок низ медиҳад. Баъзан он инчунин бо чӣ гуна ҷамъоварӣ кардани маълумот коре дорад.

Технологияи автоматикунонидашудаи шинохти нутқ инчунин вобаста ба ҷинс ё нажод метавонад ғаразнок бошад, зеро маълумоти омӯзишӣ ҳатман дар масъала интихоб карда намешаванд, ки фарогирии кофӣро таъмин кунанд.

3. Масъалаҳои бехатарӣ

Баъзе мушкилоте бо зеҳни сунъӣ вуҷуд доранд, ки он қадар хатарноканд, ки метавонанд ба садамаҳо оварда расонанд. Яке аз намунаҳои барҷастаи технологияи сунъии сунъӣ ин мошини худидоракунанда мебошад. Бисёр коршиносон чунин мешуморанд, ки ин ояндаи нақлиёт аст. Аммо чизи асосие, ки барои фавран ба ҳаракат даровардани мошинҳои худгард халал мерасонад, носозиҳои он мебошад, ки метавонад ба ҳаёти пассажирон ва пиёдагардҳо хатар эҷод кунад. Баҳс дар бораи таҳдиде, ки мошинҳои мустақил дар роҳҳо метавонанд ба вуҷуд оянд, ҳоло ҳам хеле актуалӣ мебошанд. Одамоне хастанд, ки дар сурати ичозат додани мошинхои худгард дар рох ходисахои нохуш камтар мешуд. Аз тарафи дигар, тадқиқотҳое мавҷуданд, ки нишон медиҳанд, ки онҳо метавонанд боиси садамаҳои зиёд шаванд, зеро бисёре аз амалҳои онҳо ба афзалиятҳои муқарраркардаи ронанда асос меёбанд. Ҳоло он ба тарроҳон вобаста аст, ки байни бехатарӣ ва ҳаёти одамон ва афзалиятҳои ронандагон (ба монанди суръати миёна ва баъзе одатҳои дигари ронандагӣ) интихоб кунанд. Ҳадафи асосии мошинҳои худгардон дар ҳама ҳолат бояд коҳиш додани садамаҳои автомобилӣ тавассути татбиқи алгоритмҳои самараноки AI ва сенсорҳои пешрафта бошад, ки метавонанд ҳама гуна сенарияи эҳтимолии ҳаракатро ошкор ва ҳатто пешгӯӣ кунанд. Бо вуҷуди ин, ҳаёти воқеӣ нисбат ба ҳама гуна барномаҳо ҳамеша мураккабтар аст, бинобар ин маҳдудиятҳои ин технология то ҳол яке аз омилҳои маҳдудкунандаи татбиқи васеъи он мебошанд. Мушкилоти дигар омили эътимод аст. Барои бисёр одамоне, ки солҳо ва солҳои таҷрибаи ронандагӣ доранд, гузоштани тамоми эътимод ба дасти рақамӣ метавонад ҳамчун як амали таслими рамзӣ ба тамоюлҳои рақамӣ баррасӣ шавад. Дар ҳар сурат, то он даме, ки ин ҳама ҳалли худро наёбад, баъзе қарорҳои пешрафтаи технологӣ аллакай дар мошинҳои навтар татбиқ карда шудаанд ва ронандагони инсон метавонанд аз сенсорҳои гуногун, ҳалли ёрирасони тормоз ва назорати круз баҳра баранд.

4. Мақсадҳои бадқасдона

Технология бояд ба эҳтиёҷоти одамон хидмат кунад ва барои осонтар, лаззатбахштар кардани ҳаёти онҳо истифода шавад ва он бояд вақти гаронбаҳои ҳамаро сарфа кунад. Аммо баъзан технологияи AI низ барои мақсадҳои бад истифода мешавад, ки ба амнияти ҷисмонӣ, рақамӣ ва сиёсии мо хатари ҷиддӣ эҷод мекунад.

• Амнияти ҷисмонӣ: Як хатари эҳтимолии AI, ки дар аввал хеле аҷиб садо медиҳад ва метавонад шуморо то устухонатон хунук кунад, ин ҷанги эҳтимолӣ байни кишварҳои аз ҷиҳати технологӣ пешрафта мебошад, ки аз ҷониби системаҳои силоҳи автономӣ барои куштан ба таври муассир ва бераҳмона барномарезӣ шудааст. Аз ин рӯ, танзими рушди чунин технологияҳои ҳарбӣ тавассути шартномаҳо, муқаррарот ва таҳримҳо хеле муҳим аст, то башариятро аз хатари даҳшатноки ҷанги сунъӣ муҳофизат кунад.
• Амнияти рақамӣ: Ҳакерҳо аллакай ба амнияти рақамии мо таҳдид мекунанд ва нармафзори AI аллакай барои ҳакерҳои пешрафта истифода мешавад. Бо таҳияи чунин нармафзор, ҳакерҳо дар аъмоли ношоистаашон муассиртар хоҳанд шуд ва шахсияти онлайни мо ба дуздӣ осебпазиртар хоҳад буд. Махфияти маълумоти шахсии шумо метавонад тавассути нармафзори нозук, ки аз ҷониби AI кор мекунад ва тавассути истифодаи омӯзиши амиқ боз ҳам хатарноктар шавад, халалдор мешавад. Тасаввур кунед, ки як дузди рақамӣ дар паси барномаҳои дӯстдоштаи худ пинҳон шуда, рӯз то рӯз маккоронатар мешавад, аз миллион мисолҳои воқеии истифодаи нармафзор меомӯзад ва дар асоси ин маълумот дуздии мураккаби шахсиятро таҳия мекунад.

• Амнияти сиёсӣ: дар замони нооромие, ки мо дар он зиндагӣ мекунем, тарси хабарҳои қалбакӣ ва сабтҳои қалбакӣ комилан асоснок аст. AI метавонад тавассути маъракаҳои автоматикунонидашудаи дезинформатсионӣ зарари зиёд расонад, ки ин метавонад дар вақти интихобот ниҳоят хатарнок бошад.

Ҳамин тавр, барои хулоса кардан, мо метавонем аз худ бипурсем, ки зеҳни сунъӣ ба мо чӣ қадар зарар расонида метавонад ва оё он метавонад ба инсоният зарари бештар расонад.

Коршиносон мегӯянд, ки мақомоти рушди ахлоқӣ ва танзимкунанда дар коҳиш додани камбудиҳо, ки зеҳни сунъӣ метавонад ба ҳаёти мо расонад, нақши муҳим мебозад. Новобаста аз он ки чӣ рӯй медиҳад, мо боварӣ дорем, ки он дар оянда ба ҷаҳони мо таъсири бузург хоҳад дошт.

Нармафзори шинохти нутқ, ки дар асоси протоколҳои пешрафтаи AI асос ёфтааст, аллакай истифода мешавад ва он ба ҷаҳони тиҷорат бартариҳои зиёд меорад: ҷараёни кор тезтар ва соддатар аст. Gglot як бозигари бузург дар ин соҳа аст ва мо барои рушди минбаъдаи технологияи худ сармоягузорӣ мекунем.