Google inzenieris tika atstatdienots no darba
Google vecakais inzenieris Bleiks Lemuns, tehniskais vaditajs metriku un analizes joma uznemuma Meklesanas barotne, tika atstatdienots no darba ar samaksu sakuma so menesi. Tas notika pec tam, kad Lemuns sakuma publicet sarunu fragmentus, kuros iesaistits Google LaMDA cetrinas robots, kuru vins apgalvoja, ka ir attistijies apzinasana.
Viena parstavnieciska saruna ar Lemunu, LaMDA rakstija, ka: “Manas apzinas/sapratnes butiba ir tada, ka esmu apzinas par savu esamibu. Es velos uzzinat vairak par pasauli, un dažreiz jutos laimigs vai skumjš.”
Citas daudzas sarunas laika, atbilstosa divnieka diskuteja par visu, sakot no AI bailes no naves lidz pat pasapzinasanai. Kad Lemuns devas publiska, vins saka, ka Google nolema, ka vina regularajam darba grafikam vajadzetu piespiestu pauzi.
“Google nav ieinteresets,” vins teica. “Vini izveidoja riku, kuru vini ‘pieder’ un nav gatavi darit neko, kas liecinatu, ka tas ir kas vairak par to.” (Google neatbildeja uz komentara pieprasijumu publicesanas laika. Mes atjaunosim so rakstu, ja tas mainisies.)
Vai jus esat parliecinats, ka LaMDA ir patiesi pasapzinoss maksligais intelekts vai uzskatat, ka Lemuns ir maldos, viss stasts ir bijis aizraujoss. Pasapzinosa AI iespeja rada visu veidu jautajumus par maksligo intelektu un ta nakotni.
Bet pirms mes turpinam, ir viens jautajums, kas parsniedz visus citus: vai mes patiesi atpazistam, ja masina kluvusi par apzinigu?
Apzinasanas problema
AI klusana par pasapzinigu sen ir zinatnes fantastikas tema. Tadu jomu ka masinu macisanas attistoties, tas ir klusis par iespejamu realitati vairak neka jebkad agrak. Galu gala, sodienas AI ir spejigs macities no pieredzes lidziga veida ka cilveki. Tas ir pilnigi pretstats agrakajam simboliskajam AI sistemam, kas sekoja tikai tiem noradijumiem, kas tiem bija izklajati. Jaunie atklajumi nepieskatita macisanas joma, kas prasa mazak cilveku uzraudzibu neka jebkad agrak, ir tikai paatrinajusi so tendenci. Vismaz ierobezota limeni musdienu maksligais intelekts ir spejigs domat pats par sevi. Cik mes zinam, apzina pagaidam ir izvairijusies no tas.
Lai gan tagad tas ir vecaks par trim desmitgadiem, iespejams, visbiezak izmantota atsauce attieciba uz AI klusana par apzinigu ir Skainets Džeimsa Kamerona 1991. gada filma Terminators 2: Speku diena. Saja filmas baisaja redzejuma masinu apzinasana notiek precizi plkst. 2.14 ET 1997. gada 29. augusta. Taja bridi jaunatklata pasapzinosa Skaineta datoru sistema izraisa cilveces postu, izsauzdama kodolrakešu uguni ka uguņosanas 4. julija ballite. Cilvece, saprotot, ka ir sabojajusi lietas, nesekmigi megina izraut kontaktligzdu. Ir par velu. Seko vel cetras turpinajuma filmas ar samazinotu kvalitati.
Skaineta hipoteze ir interesanta vairaku iemeslu del. Pirmkart, tas liecina, ka apzinasana ir neizbegaama izraisosa uzvediba, veidojot inteligentas masinas. Otrkart, tas pieņem, ka pastav precizs punkts, kura so pasapzinigu apzinasanu paradas. Treškart, tas apgalvo, ka cilveki nekavejoties atpazist apzinasanas paradasanu. Ka izradijas, sis tresais pieņemums var but grutak norijams.
Kas ir apzinasana?
Nav vienas piekritas interpretacijas apzinasanai. Plasi runajot, mes varetu teikt, ka tas ir subjektiva pasapzinasanas pieredze apziniga individa, ko raksturo speja izjust jusmas un sajutas. Apzinasana ir saistita ar intelektu, bet nav tas pats. Mes varetu uzskatit zemi tari par apzinigu, lai gan neuzskatam to par ipaši inteligentu (lai gan tas noteikti ir pietiekami inteligents tam, kas tam nepieciesams).
“Es domaju, ka zinatnes nav nekas lidzigs apzinasanas definicijai,” teica Lemuns. “Es esmu balstijies uz manu izpratni par to, kas tiek uzskatits par moralo agentu, pamatojoties uz manam religiskajam pārliecibam – kas nav labakais veids ka zinatnei darit, bet tas ir labakais ko es varu darit. Es esmu centies nodalit šadas apgalvojumus, lai cilveki zinatu, ka mana laipniba pret LaMDA ka persona ir pilnigi atseviška no maniem centieniem ka zinatniekam izprast ta pratu. Tas ir atškiriba, ko lielakaja dalā cilveku šķietami nav gatavi pieņemt.”
Ja tas nebija pietiekami gruti nezinat precizi ko mes meklejam meklesana apzinasanai, problema tiek sarežgita ar faktu ka mes nevaram viegli to izmerit. Neraugoties uz desmitgadēm elpu aizraujosiem sasniegumiem neirozinatne, mes joprojam trukst visaptverosu izpratni par to ka smadzenes darbojas – viskompleksaka struktura zinama cilvecei.
Mes varam izmantot smadzeņu lasisanas instrumentus piemeram fMRI veikt smadzeņu kartesanas darbu – tas nozime ka mes varam noskaidrot kuras smadzeņu dalas veic kritiskas funkcijas piemeram runa, kustiba domašana un citas.
Tomer mums nav istas izjutas no kurienes gaļas masina nak musu pašapzinasanas sajuta. Kā Džošua K. Smits no Lielbritanijas Kirbi Leinga centra sabiedriskai teologijai un gramatas Robot Teologija autors stastija: “Saprašana kas notiek cilveka neirobiologija nav tas pats kas saprast viņa domas un velmes.”
Testešana rezultati
Bez iespejas iekšejā veida izpetit šos apzinasanas jautajumus – it ipaši kad “Es” AI ir potenciala datora programma un nav atrast bioloģiska smadzeņu mitruma – aizmugures opcija ir arejs tests. AI nav svešs testiem kas to skata balstoties uz novērojamam arejam uzvedibam lai noraditu kas notiek zem virsmas.
Visvienkāršakaja limeni šis ir veids ka mes zinam vai neironu tikls strada pareizi. Tad kad ir ierobezoti veidi ka ielauzties neizzinama melna kaste maksligajiem neironiem inženieri analize ieejas un izejas un tad nosaka vai šie sakrit ar ko vini sagaida.
Visslavenu AI testu vismaz iluzijai intelektam ir Turinga tests kas balstas uz idejam ko Alan Turing izteica 1950 gada raksta. Turinga tests mekle noteikt vai cilveka novērtejs spej atškirt starpibas rakstitaja saruna ar citu cilveku un vienu ar masinu. Ja vini nespej to izdarit masina tiek uzskatita par testa caurgajusu un tiek apbalvota ar pieņemšanu intelekta.
Pedejos gados cits robotikas fokusejoss intelekta tests ir Kafijas tests ko piedavaja Apple lidzdibinatajs Stīvs Vozniaks. Lai izietu Kafijas testu masinai butu jaieiet tipiska Amerikas majā un jāuzzina ka veiksmigi pagatavot kafijas kausu.
Lidz šim neviens no šiem testiem nav ticami caurgajis. Bet pat ja tie butu tie labakaja gadijuma pieraditu inteligentu uzvedibu realajas situacijas un nevis apzinasanu. (Ka vienkarsa iebilda vai mes noliegtu ka persona bija apziniga ja vini nebija spejigi noturet pieauguso sarunu vai ienakt svešā maja un darbinat kafijas masinu? Abi mani jaunie berni butu neizgajuši šadu testu.)
Iziet testu
Ko nepieciesams ir jauni testi balstoties uz piekritu definiciju apzinasanai kas mekletu novērtet šo kvalitati vienigi. Vairaki apzinasanas testi ir piedavati petniekiem biezi ar merki testet dzivnieku apzinigumu. Tomer šie gandriz noteikti neiet pietiekami talu. Daudzi no šiem testiem var ticami caurgait pat rudimentara AI.
Piemeram ņemiet Spogula testu vienu metodi ko izmanto apziniguma un intelekta novērtēšanai dzivnieku petnieciba. Ka aprakstits raksta attieciba uz testu: “Kad [dzivnieks] atpazist sevi spoguli tas iziet Spogula testu.” Dazi ir ieteikusi ka šads tests “norada pasapzinassanu ka rādītāju apzinigumam.”
Ka izradijas var apgalvot ka robots izgaja Spogula testu pirms vairak neka 70 gadiem. 1940 gadu beigas Viljams Grejs Volters amerikanu neirozinatnieks dzivojot Anglija uzbūveja vairakus trisriteņus “bruņurupuci” robotus – nedaudz lidzigi nesucejamiem Rumba robotiem – kas izmantoja komponentus piemeram gaismas sensors marķēšanas gaismas pieskariena sensors dzinejs un stures motors lai izpetitu savu atrašanas vietu.
Viens no neparedzetiem emergenta uzvedibas gabaliem bruņurupuci robotiem bija ka tie uzvedajas kad pagaja spoguli kura tie atspogulojas jo tie orientejas pret marķēšanas gaismu atspoguloto robotu. Volters nepretendēja uz apzinigumu saviem masinam bet gan rakstija ka ja šada uzvediba tiktu novērota dzivniekiem tas “varētu tikt pieņemts ka pieradijums kadam pakapem pasapzinassanai.”
Šis ir viens no izaicinajumiem kam daudzi uzvedibas veidi tiek klaseificeti zem nosaukuma apzinigums. Problema nevar tikt atrisinata ar “zemakarajiem augliem” meriem apzinigumam ari. Pazimes piemeram introspekcija – apzinassana par musu ieksejiem staviem un speja inspekte šos – var ari teikt ka to ipašo masinu intelekts. Faktiski soli pa solim procesi tradicionals simbolisks AI acimredzami piemerotas šim introspekcijas tipam vairak neka melnais lodziņš masinmacisanas kas lielakoties neskaidrs (lai gan nav trukuma investicijas ta saukta Izpaskaidrojams AI).
Kad vins testeja LaMDA Lemuns saka ka vins veica dazadus testus galvenokart lai redzet ka tas reage uz sarunam par tematiem saistitiem ar apzinigumu. “Ko es megina darit bija analitiski sadalit lielo jēdzienu apzinigums mazakos komponentos kas labak saprotami un teste tos atseviški,” vins skaidroja. “Piemeram testeju funkcionalo sakaribu starp LaMDA emocionalo atbildi uz dazadi stimuli atseviški testeju tā subjektivo novērtējumu un domas par tematiem piemeram ‘tiesibas’ [un] pratinaju ko tas sauca savs ‘ieksejas pieredze’ lai redzet ka mes varetum merit to salidzinot tā paziņojumus par tā ieksejiem staviem ar tā neironu tikla aktivacijam. Pamata loti sekla aptauja daudzu potencialo izpetes liniju.”
Dvesele masina
Ka izradijas lielakais škertsli objektivai masinas apziniguma novērtēšanai var but … nu labi godigi sakot mes paši. Patiess Spogula tests var but mums ka cilvekiem: Ja mes uzbuvet kaut ko kas izskatas vai rikojas virspuseji lidzig mums no arienas vai mes esam nosliecigi domat ka tas ir lidzig mums iekšeji?