Vain yhdeksän jättiläistä teknologiayritystä Yhdysvalloissa ja Kiinassa on takana valtaosa tekoälyn kehityksestä maailmanlaajuisesti. Uudessa kirjassaan Iso yhdeksän: Kuinka tekniset titaanit ja heidän ajattelukoneet voivat loistaa ihmiskunnan (PublicAffairs, 5. maaliskuuta), Amy Webb visioi kolme mahdollista tulevaisuutta, jotka vaihtelevat optimistisista apokalyptisiin, jotka saattavat johtua toimista, joita teemme - tai emme tee - A.I. ja muokata sen maailmanlaajuista vaikutusta. Tässä otteessa hän esittää sarjan kovia eettisiä kysymyksiä, jotka A.I. järjestelmien tulisi käyttää työnsä ohjaamiseen.
Vain muutamat ihmiset ovat aina luoneet säännöt - algoritmin -, jonka mukaan jokainen kulttuuri, yhteiskunta ja kansakunta elää ja on koskaan elänyt. Demokratia, kommunismi, sosialismi, uskonto, veganismi, nativismi, kolonialismi - nämä ovat rakenteita, jotka olemme kehittäneet koko historian ajan auttamaan päätöksentekoa. Jopa parhaissa tapauksissa ne eivät ole tulevaisuuden kestäviä. Teknologiset, sosiaaliset ja taloudelliset voimat puuttuvat aina ja saavat meidät sopeutumaan.
Kymmenen käskyä muodostavat algoritmin, jonka tarkoituksena on luoda parempi yhteiskunta yli 5000 vuotta sitten elossa oleville ihmisille. Yksi käskyistä on ottaa koko päivä lepoa viikossa ja olla tekemättä mitään työtä sinä päivänä. Nykyaikana useimmat ihmiset eivät työskentele täsmälleen samoina päivinä tai tunteina viikosta toiseen, joten olisi mahdotonta olla rikkomatta sääntöä. Tämän seurauksena ihmiset, jotka noudattavat kymmenen käskyä johtavana periaatteena, ovat tulkinnassaan joustavia, kun otetaan huomioon pidempien työpäivien, jalkapalloharjoitusten ja sähköpostin todellisuus. Sopeutuminen on hieno - se toimii todella hyvin meille ja yhteiskunnillemme, jotta voimme pysyä tiellä. Perusohjeiden hyväksyminen antaa meille mahdollisuuden optimoida itsellemme.
kuinka vanha on lilja helmimusta
Ei olisi mitään tapaa luoda joukko käskyjä A.I. Emme voineet kirjoittaa kaikkia sääntöjä optimoidaksemme oikein ihmiskunnalle, ja se johtuu siitä, että vaikka ajattelukoneet saattavat olla nopeita ja tehokkaita, niiltä puuttuu joustavuus. Ei ole helppoa tapaa simuloida poikkeuksia tai yrittää miettiä jokainen varautuminen etukäteen. Riippumatta siitä, mitä sääntöjä kirjoitettaisiin, tulevaisuudessa olisi aina sellainen olosuhde, jossa jotkut ihmiset haluavat tulkita sääntöjä eri tavalla tai jättää ne kokonaan huomiotta tai luoda muutoksia odottamattomien olosuhteiden hallitsemiseksi.
Tietäen, ettemme voi mahdollisesti kirjoittaa joukkoa tiukkoja käskyjä noudatettavaksi, pitäisikö meidän sen sijaan keskittää huomiomme järjestelmiä rakentaviin ihmisiin? Näiden ihmisten - A.I: n heimojen - tulisi esittää itselleen epämiellyttäviä kysymyksiä, aluksi:
steve higginsin palkka tänä iltana
- Mikä on motivaatiomme A.I: lle? Onko se yhdenmukainen ihmiskunnan parhaiden pitkän aikavälin etujen kanssa?
- Mitkä ovat omat puolueemme? Mitä ideoita, kokemuksia ja arvoja emme ole sisällyttäneet heimoomme? Keitä olemme unohtaneet?
- Olemmeko sisällyttäneet A.I. parempi - vai olemmeko yksinkertaisesti sisällyttäneet ryhmäämme monimuotoisuuden tiettyjen kiintiöiden täyttämiseksi?
- Kuinka voimme varmistaa, että käytöksemme on osallistavaa?
- Kuinka A.I.: n tekniset, taloudelliset ja sosiaaliset vaikutukset ymmärtävät sen luomisessa mukana olevat?
- Mitä perusoikeuksia meidän pitäisi olla tiedustellessamme tietojoukkoja, algoritmeja ja prosesseja, joita käytetään päätösten tekemiseen puolestamme?
- Kuka saa määritellä ihmiselämän arvon? Mitä tätä arvoa punnitaan?
- Milloin ja miksi A.I: n heimoihin kuuluvat kokevat, että heidän vastuullaan on käsitellä A.I: n sosiaalisia vaikutuksia?
- Onko organisaatiomme johto ja A.I. heimot heijastavat monia erilaisia ihmisiä?
- Mikä rooli A.I. pelata A.I: n sosiaalisten vaikutusten käsittelyssä?
- Pitäisikö meidän jatkaa A.I. ihmisen ajatteluun, vai onko meidän parempi luokitella se jotain erilaista?
- Onko OK rakentaa A.I. joka tunnistaa ihmisen tunteet ja reagoi niihin?
- Onko OK tehdä A.I. järjestelmät, jotka pystyvät jäljittelemään ihmisen tunteita, varsinkin jos se oppii meiltä reaaliajassa?
- Mikä on hyväksyttävä kohta, jossa olemme kaikki kunnossa A.I. kehittyy ilman ihmistä suoraan silmukassa?
- Missä olosuhteissa A.I. simuloida ja kokea ihmisten yhteisiä tunteita? Entä kipu, menetys ja yksinäisyys? Saammeko OK aiheuttamaan sen kärsimyksen?
- Kehitämmekö A.I. etsimään syvempää ymmärrystä itsestämme? Voimmeko käyttää A.I. auttaa ihmiskuntaa elämään enemmän tutkittua elämää?
On yhdeksän isoa teknologiayritystä - kuusi amerikkalaista ja kolme kiinalaista -, jotka ovat ylivoimaisesti vastuussa tekoälyn tulevaisuudesta. Yhdysvalloissa ne ovat Google, Microsoft, Amazon, Facebook, IBM ja Apple ('G-MAFIA'). Kiinassa se on BAT: Baidu, Alibaba ja Tencent.
G-MAFIA on alkanut käsitellä ohjaavien periaatteiden ongelmaa eri tutkimus- ja tutkimusryhmien kautta. Microsoftissa on FATE-niminen tiimi - oikeudenmukaisuuden, vastuullisuuden, läpinäkyvyyden ja etiikan puolesta A.I. Cambridge Analytica -skandaalin jälkeen Facebook käynnisti eettisen ryhmän, joka kehitti ohjelmistoja varmistaakseen, että sen A.I. järjestelmät välttivät ennakkoluuloja. (Erityisesti Facebook ei mennyt niin pitkälle, että se loisi A.I: hen keskittyvän eettisen toimikunnan.) DeepMind loi etiikka- ja yhteiskuntatiimin. IBM julkaisee säännöllisesti etiikkaa ja A.I. Baidussa käydyn skandaalin seurauksena - hakukone priorisoi harhaanjohtavia lääketieteellisiä väitteitä armeijan johtamasta sairaalasta, jossa hoito johti 21-vuotiaan opiskelijan kuolemaan - Baidun toimitusjohtaja Robin Li myönsi, että työntekijät olivat tehneet kompromisseja Baidun tulojen kasvun vuoksi ja lupasi keskittyä etiikkaan tulevaisuudessa.
mark bowe barnwood rakentajat naimisissa
Big Nine tuottaa eettisiä tutkimuksia ja valkoisia kirjoja, se kutsuu asiantuntijoita keskustelemaan etiikasta, ja se isännöi etiikkaa käsitteleviä paneeleja - mutta tämä työ ei ole sidottu tarpeeksi A.I.
Big Nine's A.I. järjestelmät käyttävät yhä enemmän reaalimaailmamme dataa rakentaakseen tuotteita, jotka osoittavat kaupallista arvoa. Kehityssyklit nopeutuvat pysyäkseen mukana sijoittajien odotuksissa. Olemme olleet halukkaita - jos haluamme - osallistujia tulevaisuuteen, joka luodaan hätäisesti ja vastaamatta ensin kaikkiin näihin kysymyksiin. Kuten A.I. järjestelmät etenevät ja enemmän jokapäiväistä elämää automatisoituu, sitä vähemmän meillä on tosiasiallista kontrollia itseämme koskevista päätöksistä.
Amy Webb ilmestyy Inc. perustajien talo Austinissa 11. maaliskuuta.
