Siellä Piilaaksossa käydään suuri keskustelu tekoälystä ja valitettavasti panokset ovat melko korkeat: Rakennammeko vahingossa erittäin älykkään A.I. joka kääntyy meihin ja tappaa tai orjuuttaa meidät kaikki?
kuinka paljon trish regan tienaa vuodessa?
Tämä saattaa kuulostaa kesäkatastrofielokuvasta, mutta se on huolestuttanut melko suuria nimiä, Elon Muskista myöhään Stephen Hawking .
Oletetaan, että luot itsesi parantavan A.I. poimia mansikoita, Musk on sanonut , selittäen pelkonsa ', ja mansikoiden kerääminen paranee entistä paremmin ja poimii yhä enemmän, ja se on itsensä parantavaa, joten kaikki, mitä se todella haluaa tehdä, on poimia mansikoita. Joten silloin koko maailma olisi mansikkapeltoja. Mansikka Pellot Ikuisesti.' Ihmiset tämän mansikka-pacalypse-tien tavoin olisi vain kulutettava ärsyttävä tekijä A.I.
Mutta ihmiset eivät varmasti ole niin typeriä, että he suunnittelisivat vahingossa A.I. ajaa muuttamaan koko sivilisaatio yhdeksi jättimäiseksi marjatilaksi? Ehkä ei, mutta kuten Janelle Shane , tutkija, joka kouluttaa hermoverkkoja, eräänlainen koneoppimisalgoritmi, huomasi äskettäin hänen bloginsa, A.I. Oudot , on täysin mahdollista, että he voivat tehdä sen vahingossa.
Itse asiassa olisi kaukana ensimmäisestä kerrasta, kun ihmiset ajattelivat rakentavansa robotteja yhtä tehtävää varten vain kääntyäkseen ympäri ja löytääkseen, että robotit pelaavat järjestelmää tavoilla, joita he eivät ole koskaan aikoneet. Kiehtova viesti kaivaa akateemista kirjallisuutta jakamaan useita esimerkkejä villiintyneistä robotteista. Ne ovat hauskoja, älykkäitä ja yhdessä tarkasteltuna enemmän kuin hieman kammottavia.
1. Kuka tarvitsee jalkoja, kun voit kaataa?
'Simuloidun robotin piti kehittyä matkustamaan mahdollisimman nopeasti. Mutta jalkojen kehittymisen sijaan se yksinkertaisesti kokoontui korkeaksi torniksi ja kaatui sitten. Jotkut näistä robotteista jopa oppivat muuttamaan putoavan liikkeensa saltoiksi lisäämällä ylimääräistä etäisyyttä '', kirjoittaa Shane.
2. Robotti, joka osaa pystyä.
Toisen simuloitujen robottijoukkojen piti kehittyä muodoksi, joka voisi hypätä. Mutta ohjelmoija oli alun perin määritellyt hyppykorkeuden korkeimman lohkon korkeudeksi, joten - jälleen kerran - robotit kehittyivät erittäin korkeiksi '', Shane selittää. 'Ohjelmoija yritti ratkaista tämän määrittelemällä hyppykorkeuden alun perin' alimman 'lohkon korkeudeksi. Vastauksena robotti kehitti pitkän laiha jalan, jonka se voisi potkia korkealle ilmaan eräänlaisella robottipurkilla. '
3. Piilota testi etkä voi epäonnistua siinä.
'Oli algoritmi, jonka piti lajitella luettelo numeroista. Sen sijaan se oppi poistamaan luettelon, jotta sitä ei enää teknisesti lajittelematta '', Shane kertoo.
4. Matemaattiset virheet voittavat lentopetrolin.
'Yhdessä simulaatiossa robotit oppivat, että pienet pyöristysvirheet matematiikassa, joka laskee voimat, merkitsivät sitä, että he saivat pienen määrän ylimääräistä energiaa liikkeellä. He oppivat nykimään nopeasti tuottaen paljon vapaata energiaa, jonka he voisivat hyödyntää '', Shane sanoo. Hei, se on huijausta!
5. Voittamaton (jos tuhoisa) tic-tac-toe-strategia.
Kun ryhmä 'ohjelmoijia rakensi algoritmeja, jotka voisivat pelata tic-tac-toe-etää toisiaan vastaan äärettömän suurella levyllä', Shane toteaa. 'Yksi ohjelmoija sen sijaan, että suunnitteli algoritminsa strategian, antoi sen kehittää omaa lähestymistapaansa. Yllättäen algoritmi alkoi yhtäkkiä voittaa kaikki pelinsä. Kävi ilmi, että algoritmin strategiana oli sijoittaa liike hyvin, hyvin kauas, jotta kun vastustajan tietokone yritti simuloida uutta huomattavasti laajennettua levyä, valtava pelilauta aiheuttaisi sen muistin loppumisen ja kaatumisen menettämällä peli.'
6. Mikään hyödyllinen pelivirhe ei jää hyödyntämättä.
'Tietokonepelien pelaamisalgoritmit ovat todella hyviä löytämään sellaiset Matrix-häiriöt, joita ihmiset yleensä oppivat hyödyntämään nopeuden ajamiseksi. Vanhaa Atari-peliä Q * bert pelaava algoritmi löysi aiemmin tuntemattoman virheen, jossa se pystyi suorittamaan hyvin tarkan sarjan liikkeitä yhden tason lopussa ja seuraavalle tasolle siirtymisen sijaan kaikki alustat alkavat vilkkua nopeasti ja pelaaja alkaisi kerätä valtavasti pisteitä ', sanoo Shane.
7. Anteeksi, lentäjä.
Tämä esimerkki on erittäin korkealla kammottavuusasteikolla: 'Oli algoritmi, jonka piti selvittää kuinka soveltaa vähimmäisvoimaa lentokoneen laskeutuvaan lentokoneeseen. Sen sijaan se huomasi, että jos se käyttää 'valtavaa' voimaa, se täyttää ohjelman muistin ja rekisteröidy sen sijaan hyvin 'pieneksi' voimaksi. Lentäjä kuoli, mutta hei, täydellinen pisteet. '
Joten olemmeko kaikki tuomittuja?
Kaikki nämä yhteenveto viittaa siihen, että ihmiset ovat melko surkea arvata, kuinka robotit ratkaisevat meille asettamamme ongelmat, tai jopa kuinka he määrittelevät ongelmat. Eikö tämä tarkoita sitä, että Shane on yhtä huolissaan vahingossa tapahtuvan murhayrityksen rakentamisesta. ylimiehiä kuten Musk on? Ei oikeastaan, mutta ei siksi, että hän on varma, että ihmisohjelmoijilla on todella loistava käsitys luomistaan robotteista. Sen sijaan hän pelastaa robottien laiskuutta pelastaakseen meidät.
'' Ohjelmoijina meidän on oltava hyvin varovaisia, että algoritmejamme ratkaisevat ongelmat, jotka tarkoitimme heidän ratkaisemiseksi, eivätkä käytä pikakuvakkeita. Jos on olemassa toinen, helpompi reitti tietyn ongelman ratkaisemiseen, koneoppiminen todennäköisesti löytää sen '', hän huomauttaa. 'Onneksi meille' tappaa kaikki ihmiset 'on todella vaikeaa. Jos 'paista uskomattoman herkullinen kakku' ratkaisee myös ongelman ja on helpompaa kuin 'tappaa kaikki ihmiset', niin koneoppiminen menee kakun mukana.
