Sisu
Esitanud: AltaML
K:
Miks kavatsevad mõned ettevõtted lisada tänapäevastele AI-süsteemidele "inimeste tagasiside kontrolli"?
A:
Mõned ettevõtted, kes töötavad tipptasemel AI-tehnoloogiaga, töötavad selle nimel, et luua süsteemidele inimkontroll, andes masinõppele ja sügava õppe vahenditele otsese inimjärelevalve. Ka need ettevõtted pole väikesed tegijad - Google’i DeepMind ja Elon Muski OpenAI on kaks näidet suurematest ettevõtetest, kes tegelevad tehisintellekti edusammudega. Seda silmas pidades on tulemused erinevad - näiteks on DeepMind olnud vaidluse objektiks oma tajutud soovimatuse kohta avalikkusele põhiandmeid edastada, samas kui OpenAI on palju muud, avatud oma tehisintellekti kontrollimise töö kohta.
Isegi sellised tähelepanuväärsed teemad, nagu Bill Gates on selles küsimuses kaalunud, väitis Gates, et ta on üks paljudest, kes on mures kunstliku superintelligentsi tekke pärast, mis võib mõnes mõttes inimese kontrolli alt väljuda. Musk on omalt poolt ka murettekitavat AI võimalikkuse kohta välja pannud murettekitava teabe.
See on ilmselt kõige pakilisem põhjus, miks ettevõtted töötavad inimese juhtimise kontrollimiseks AI-le - idee, et mingi tehnoloogiline eripära annab ülivõimsa tuntava tehnoloogia, mida inimesed lihtsalt ei saa enam kontrollida. Alates inimlike ambitsioonide algusest oleme pannud paika tööriistad, mis tagavad, et saame kontrollida oma võimeid - olgu selleks siis ohjad hobustega, kellel on ohjad ja rakmed, elekter isoleeritud juhtmetes või mis tahes muu juhtimismehhanism, juhtimine on kaasasündinud inimfunktsioon ja seetõttu on kogu maailmas mõistlik, et kuna tehisintellekt läheneb tegelikule funktsionaalsusele, rakendavad inimesed selle jõu kontrolli all hoidmiseks omaenda otseseid juhtimisvõimalusi.
Kuid hirm ülitarkade robotite ees pole ainus põhjus, miks ettevõtted rakendavad masinõppe ja AI projektide korral inimkontrolli. Teine peamine põhjus on masinate kallutamine - see on idee, et tehisintellekti süsteemid on sageli piiratud sellega, kuidas nad kõnealuseid andmeid hindavad, nii et need võimendavad süsteemile omaseid nihkeid. Enamik masinõppega tegelevaid spetsialiste oskab rääkida õuduslugusid IT-süsteemide kohta, mis ei suutnud kohelda inimeste kasutajarühmi - olgu see siis sooline või etniline ebavõrdsus või mõni muu süsteemi suutmatus mõista meie inimühiskonna nüansse ja kuidas me inimestega suhtleme.
Teatud mõttes võiksime panna süsteemid inimeste juhtimisse, kuna kardame, et need võivad olla liiga võimsad - või vaheldumisi, sest kardame, et need ei pruugi olla piisavalt võimsad. Inimese juhtimisseadmed aitavad täpsuse tagamiseks suunata masinõppe andmekogumid. Need aitavad tugevdada ideid, mida arvuti lihtsalt ei saa iseseisvalt õppida, kas seetõttu, et mudel pole piisavalt keerukas, kuna AI pole piisavalt kaugele arenenud või kuna mõned asjad asuvad lihtsalt inimliku tunnetuse provintsis. Tehisintellekt sobib mõne asja jaoks suurepäraselt - näiteks autasu ja tulemuspõhine süsteem võimaldas tehisintellektil võita inimmängija äärmiselt keerulises lauamängus „Go“ -, kuid muude asjade jaoks on see stiimulil põhinev süsteem täiesti puudulik.
Lühidalt on arvukalt kaalukaid põhjuseid, miks hoida inimkasutajad otseselt seotud tehisintellekti projektide toimimisega. Isegi parimad tehisintellekti tehnoloogiad suudavad iseseisvalt palju mõtlema panna - kuid ilma tegeliku bioloogilise inimajuta, mis suudab töödelda selliseid asju nagu emotsioonid ja sotsiaalsed kombed, ei näe nad lihtsalt suurt pilti inimlikul viisil.
Oskuslik masinõppeettevõte aitab seda tasakaalu saavutada, kui äri- ja teemavaldkonna asjatundjaid ning masinõppe arendajaid on vaja suurettevõtete probleemide lahendamiseks.
