Skynet hipoteze un mākslīgais intelekts
Saukt to par Skynet hipotēzi, Vispārējo Mākslīgo Intelektu vai Singularity sākumu – gadu gaitā AI eksperti un neeksperti ir uztraukušies (un neliela grupa svinējusi) ideju, ka mākslīgais intelekts kādu dienu varētu kļūt gudrāks par cilvēkiem.
AI attīstības teorija
Saskaņā ar teoriju, AI attīstība – īpaši mašīnmācīšanās veids, kas spēj uzņemt jaunu informāciju un attiecīgi pārrakstīt savu kodu – galu galā panāks bioloģiskā smadzeņu “mīksto aparatūru”. Šajā notikumu interpretācijā katrs AI progress no Jeopardy uzvarējušajām IBM mašīnām līdz milzīgajam AI valodas modelim GPT-3 ved cilvēci soli tuvāk eksistenciālam draudam. Mēs burtiski veidojam savus drīz būs pašapzinātos pēctečus.
Grāmatas autori noraida bailes
Taču tas nekad nenotiks. Vispār, saskaņā ar jaunās grāmatas autoru teikto Kāpēc mašīnas nekad nevaldīs pasauli: Mākslīgais intelekts bez bailēm.
Līdzautori, Bufalo Universitātes filozofijas profesors Barijs Smits un Vācijas AI uzņēmuma Cognotekt dibinātājs Jobsts Landgrebe apgalvo, ka cilvēka intelekts netiks pārspēts ar “nemirstīgu diktatoru” tuvākajā laikā – vai jebkad. Viņi stāsta savus iemeslus.
Jautājums: Kā šī tēma nonāca jūsu redzeslokā?
Jobsts Landgrebe: Es esmu ārsts un bioķīmiķis pēc izglītības. Kad es sāku savu karjeru, es veicu eksperimentus, kas radīja daudz datu. Es sāku studēt matemātiku, lai varētu interpretēt šos datus, un redzēju, cik grūti ir matemātiski modelēt bioloģiskas sistēmas. Vienmēr bija nesaderība starp matemātiskajām metodēm un bioloģiskajiem datiem.
Viduslaikos es pametu akadēmisko vidi un kļuvu par biznesa konsultantu un uzņēmēju, strādājot ar mākslīgā intelekta programmatūras sistēmām. Es centos veidot AI sistēmas, kas atdarina to, ko cilvēki var darīt. Es sapratu, ka saskaros ar to pašu problēmu, kas man bija gadus atpakaļ bioloģijā.
Klienti man teica: “Kāpēc jūs neveidojat tērzēšanas robotus?” Es teicu: “Jo tie nedarbosies; mēs nevaram pienācīgi modelēt šo tipa sistēmu.” Tas galu galā noveda pie šīs grāmatas rakstīšanas.
Profesors Barijs Smits: Es domāju, ka tas ir ļoti interesants jautājums. Man jau bija līdzīgas problēmas ar AI, bet es nekad nebija padomājis par tām dziļi. Sākumā mēs uzrakstījām rakstu “Padarot mākslīgo intelektu atkal nozīmīgu”. (Tas bija Trampa laikmetā.) Tas bija par to, kāpēc neironu tīkli nedarbojas valodas modelēšanai. Tad mēs nolēmām paplašināt rakstu par grāmatu, lai dziļāk izpētītu šo tēmu.
Neironu tīklu skepse
Jautājums: Jūsu grāmata pauž skepsi par to, kā neironu tīkli, kas ir būtiski mūsdienu dziļajai mācīšanai, atdarina cilvēka smadzenes. Tie ir tikai aptuveni modeļi, nevis precīzi bioloģisko smadzeņu darbības modeļi. Bet vai jūs pieņemat pamatpieņēmumu, ka, ja mēs saprastu smadzenes pietiekami detalizēti, tās varētu mākslīgi atveidot – un ka tas radītu intelektu vai apziņu?
Jobsts Landgrebe: Nosaukums “neironu tīkls” ir pilnīgs nepareizs nosaukums. Neironu tīkli, kas mums ir tagad, pat vissofisticētākie, nekam nav kopīga ar to, kā darbojas smadzenes. Uzskats, ka smadzenes ir savienotu mezglu kopums tāpat kā neironu tīkli tiek veidoti, ir pilnīgi naivs.
Ja mēs skatamies uz visprimitīvāko baktēriju šūnu, mēs joprojām nesaprotam pat to, kā tā darbojas. Mēs saprotam dažus no tās aspektiem, bet mums nav modeļa tam, kā tā darbojas – nemaz nerunājot par neironu, kas ir daudz sarežģītāks, vai miljardiem savstarpēji savienotu neironu. Es uzskatu, ka ir zinātniski neiespējami saprast, kā darbojas smadzenes. Mēs varam saprast tikai noteiktus aspektus un risināt šos aspektus. Mums nav un mums nekad nebūs pilnīgas izpratnes par to, kā darbojas smadzenes.
Ja mums būtu pilnīga izpratne par to, kā darbojas katrs smadzeņu molekula, tad mēs varētu to atveidot. Tas nozīmētu visu iekļaušanu matemātiskajos vienādojumos. Tad jūs varētu atveidot to izmantojot datoru. Problēma ir tajā, ka mums nav iespējams uzrakstīt un izveidot šos vienadojumus.
Barijs Smits par smadzeņu sarežģītību
Barijs Smits: Daudzas no interesantajiem notikumiem pasaulē notiek granularitātes līmeņos, pie kuriem mēs nevaram piekļūt. Mums vienkārši nav attēlveidošanas aprīkojuma un mums visticamāk nekad nebūs attēlveidošanas aprīkojuma, lai uztvertu lielumu daļu no notiekošajiem procesiem ļoti smalkajos smadzeņu līmeņos.
Tas nozīmē, ka mums nav zināms piemēram kas ir atbildīgs par apziņu. Ir patiesi dažas diezgan interesantas filozofiskas problēmas, kas saskaņa ar metodi ko mēs izmantojam vienmēr būs neatrisinamas – un tādēļ mums vienkārši jauz tajiem nepievērš uzmanibu.
Cits piemers ir gribas briviba. Mums ļoti patik doma ka cilvēkiem ir griba; mums var būt nodomi,meklējumi un tamlidzigi. Bet mums nav zinams vai tas ir briva griba vai ne. Tas ir jautajums kas saistits ar smadzeņu fiziku. Cik liecina pieejamie pieradijumi datori nevar but ar gribu.
Grmatas apakšvirsraksts ‘Maksligais intelekts bez bailam’
Jautajums: Grmatas apaksvirsraksts ir ‘Maksligais intelekts bez bailam’. Kas ir specifiska baile ko jus noradat?
Barijs Smits: Tas bija provocets ar literaturu par singularitati ko es zinu ka jus esat pazistams ar. Niks Bostroms Deivids Celmers Ilons Masks un lidzigie. Kad mes runajam ar musu kollegiem realaja pasaule tas mus padarija skaidru ka patiešam bija noteiktas bailes starp iedzivotajiem ka AI galarezultata parnems kontroli un mainis pasauli cilveku detrimentam.
Mes grmata esam ieklaujuši diezgan daudz par Bostroma tipa argumentiem. Galvenais arguments pret tiem ir tas ja masina nevar but ar gribu tad tai ari nevar but ar slikto gribu. Bez slikta gribas nav ko bailes no. Protams mes varam but bailes no masinam tapat ka mes varam but bailes no ierociem.
Bet tas ir tad kad masinas tiek vaditas ar cilvekiem ar sliktiem merkiem. Bet tad tas nav AI kas ir slikts tas ir cilveki kas veido un programmet AI
Kapc interese par singularitati vai visparejo maksligo intelektu?
Jautajums: Kapc šis singularitates vai vispareja maksliga intelekta jautajums tik daudz interesee cilvekus? Vai tie ir biedejami vai fascinejoši tas ir kautkas par šo ideju kas rezonanse ar cilvekiem plaša limeni.
Jobsts Landgrebe: Ir ši ideja kas saka ka sakuma 19 gadsimta un tad deklareja Niče beigas ta gadsimta ka Dievs ir miris. Tad kad elites musu sabiedriba vairs nav kristietis viniem vajadzeja aizstaju. Makss Stirners kas bija Hegela skolnieks tapat ka Karls Markss rakstija gramatu par šo sakot ‘Es esmu mans pats dievs’.
Ja tu esi Dievs tu ari gribi but raditajs. Ja tu vari radit superintelektu tad tu esi ka dievs. Es domaju ka tas saistas ar hiper-narcisisma tendencem musu kultura. Mes gramata par to nerunajam bet tas man skaidro kapc ši ideja ir tik pievilciga musdienu laikos kad vairs nav transcendentas entitates pie kuram verties.
Jobsts Landgrebe par AI radisanas nakotni
Jautajums: Kas jusuprat bija gala rezultats jusu gramatas ja visi tiktu parliecinati ar jusu argumentiem? Ko tas nozimetu AI attistibas nakotnei?
Jobsts Landgrebe: Tas ir loti labs jautajums. Es varu jums pateikt tieši ko es domaju notiks – un kas notiks. Es domaju ka videtermina cilveki pieņems musu argumentus un tas radis labaku piemetot matematiku.
Kautkas ko visi lielie matematiki un fiziki pilniba apzinajas bija ierobezojumi ko vini var sasniegt matematiski. Tadel ka vini apzinajas šo vini koncentreties tikai uz noteiktam problemam. Ja tu esi labi apzinats par ierobezojumiem tad tu ej cauri pasaulei mekle šis problemas un atrisini tas. Tadel Einsteins atrada vienadojumus Braunijas kustibai; ka vins nonaca pie saviem relativitates teorijam; ka Planks atrisinaja melna kermena starojumu un ta inicieta kvantu teorija par materiju. Viniem bija labs instinkts kuram problemam var atrisinat ar matematiku un kuram nevar.
Ja cilveki apgust musu gramatas vestijumu vini ticamak bus spejigi inzenieret labakas sistemas jo vini koncentresies uz to kas patiesi ir iespejams – un pamest naudu un centienus uz kautko kas nevar tikt sasniegts.
Barijs Smits par AI sistemu dabu
Barijs Smits: Es domaju ka dala no vestijuma jau saka izplatities ne del to ko mes sakam bet del pieredzes ko cilveki guva kad vini deva lielas naudas summas AI projektiem un tad AI projekti cieta neveiksmi. Es domaju ka jus zinat par Kopigo Maksliga Intelekta Centru. Es neatceros precizu summu bet es domaju ka tas bija apmeram 10 miljardi dolari ko vini deva slavenam kontraktoram. Gala rezultata vini nesanema neko no ta. Vini atcela ligumu.
(Redaktora piezime: JAIC ASV Bruņoto spēku apakšnodaļa bija paredzeta lai paatrinatu “AI piegadi un pieņemšanu lai sasniegtu misiju ietekmi plaša meroga.” Tas tika iekļauts lielaka vienota organizacija Galvenais Digitalais un Maksligais Intelekta Oficieris ar divam citam birojiem šogad Jūnijaa JAIC beidza pastavet ka sava entitate.)
Vissparliecinoss arguments gramata
Jautajums: Ko jus domajat augsta limena terminos ir visparliecinoss arguments ko jus izdarat gramata?
Barijs Smits: Katra AI sistema ir matematiska dabaa. Tadel ka mes nevaram matematiski modelet apzinu gribu vai intelektu šie nevar tikt emulati izmantojot masinas. Tadel masinas nekad nebus inteligentas lai cik superinteligentas.
Jobsts Landgrebe: Musu smadzeņu struktura atljauj tikai ierobezotus dabas modeļus. Fizika mes izvelamies realitates apakskopumu kas atbilst musu matematiskajam modelisanas spejam. Tadel Njutons Maksvells Einsteins vai Šred