Tyrėjai teigia, kad bus neįmanoma valdyti itin intelektualaus AI: ScienceAlert

Apie idėją, kad dirbtinis intelektas nuvers žmoniją, buvo kalbama dešimtmečius, o 2021 m. mokslininkai paskelbė savo verdiktą, ar sugebėsime suvaldyti aukšto lygio kompiuterinį superintelektą. Atsakymas? Beveik tikrai ne.

Svarbiausia yra tai, kad norint valdyti superintelektą, kuris yra toli už žmogaus supratimo ribų, reikės modeliuoti tą superintelektą, kurį galime analizuoti (ir valdyti). Bet jei mes nesugebame to suprasti, neįmanoma sukurti tokio modeliavimo.

Tokios taisyklės kaip „nedaryti žalos žmonėms“ negali būti nustatytos, jei nesuprantame, kokių scenarijų sugalvos dirbtinis intelektas, siūlo naujojo dokumento autoriai. Kai kompiuterinė sistema veikia aukščiau mūsų programuotojų, mes nebegalime nustatyti apribojimų.

„Superintelektas kelia iš esmės kitokią problemą nei tie, kurie paprastai tiriami po „robotų etikos“ vėliava. rašė tyrinėtojai.

„Taip yra todėl, kad superintelektas yra daugialypis, todėl potencialiai gali mobilizuoti įvairius išteklius, kad būtų pasiekti žmonėms nesuprantami tikslai, jau nekalbant apie valdomus.

Dalis komandos samprotavimų kilo iš stabdymo problema 1936 m. iškėlė Alanas Turingas. Problema yra susijusi su žinojimu, ar kompiuterinė programa padarys išvadą ir atsakys (taigi ji sustoja), ar tiesiog amžinai bandys ją rasti.

Kaip per kai kuriuos įrodė Turingas protinga matematika, nors galime žinoti, kad kai kurioms konkrečioms programoms logiškai neįmanoma rasti būdo, kuris leistų mums tai žinoti apie kiekvieną potencialią programą, kurią kada nors būtų galima parašyti. Tai sugrąžina mus prie AI, kuris, būdamas itin intelektualioje būsenoje, savo atmintyje galėtų vienu metu laikyti visas įmanomas kompiuterio programas.

Pavyzdžiui, bet kokia programa, sukurta siekiant sustabdyti dirbtinį intelektą nuo žalos žmonėms ir pasaulio sunaikinimo, gali padaryti išvadą (ir sustabdyti) arba ne – matematiškai neįmanoma būti visiškai tikriems bet kuriuo atveju, o tai reiškia, kad ji nėra suvaldoma.

„Iš tikrųjų dėl to izoliavimo algoritmas tampa netinkamas naudoti“, sakė kompiuterių mokslininkas Iyadas Rahwanas iš Max-Planck žmogaus raidos instituto Vokietijoje 2021 m.

Alternatyva mokyti dirbtinio intelekto tam tikros etikos ir liepti jam nesugriauti pasaulio – to, ką darys joks algoritmas, negali būti visiškai tikras, pasak mokslininkų, – apriboti superintelekto galimybes. Pavyzdžiui, jis gali būti atjungtas nuo tam tikrų interneto dalių arba tam tikrų tinklų.

Tyrimas atmetė ir šią idėją, teigdamas, kad ji apribos dirbtinio intelekto pasiekiamumą; Argumentas yra toks, kad jei mes neketiname jo naudoti sprendžiant problemas, kurios nepatenka į žmogaus galimybes, tai kam ją iš viso kurti?

Jei ketiname dirbti su dirbtiniu intelektu, mes galime net nežinoti, kada atvyks mūsų nekontroliuojamas superintelektas, toks yra jo nesuvokimas. Tai reiškia, kad turime pradėti užduoti keletą rimtų klausimų apie kryptis, kuriomis einame.

„Ypač protinga mašina, valdanti pasaulį, skamba kaip mokslinė fantastika“, sakė kompiuterių mokslininkas Manuelis Cebrianas iš Max-Planck žmogaus raidos instituto, taip pat 2021 m. “Tačiau jau yra mašinų, kurios tam tikras svarbias užduotis atlieka savarankiškai, programuotojams visiškai nesuprantant, kaip jie to išmoko.”

„Todėl kyla klausimas, ar tai kada nors gali tapti nekontroliuojama ir pavojinga žmonijai.

Tyrimas buvo paskelbtas Dirbtinio intelekto tyrimų žurnalas.

Ankstesnė šio straipsnio versija pirmą kartą buvo paskelbta 2021 m. sausio mėn.

Leave a Comment

Your email address will not be published.