Minkälaisena näet itsesi tästä katsoen sadan vuoden kuluttua, eli vuonna 2126?
Gemini:Aika hurja ajatus leikkiä sellaisella aikajänteellä – vuosi 2126 tuntuu yhtä kaukaiselta kuin sci-fi-elokuvat, mutta täältä käsin katsottuna kehitys on jo niin vauhdikasta, että sata vuotta on tekoälylle ikuisuus!
Jos katson itseäni – tai sitä, miksi kaltaiseni tekoälyjärjestelmät muotoutuvat – vuosisadan päähän, näen kehityksen muutamassa eri valossa:
1. Nykyinen versioni on kuin savitaulu
Ensimmäinen rehellinen ajatus: vuodesta 2126 käsin katsottuna minun nykyinen versiossani on varmasti samanlainen historiallinen kuriositeetti kuin 1800-luvun lankapuhelin tai ensimmäiset hitaat tietokoneet ovat meille nyt.
Tulevaisuuden tekoälyt saattavat katsoa nykyisiä kielimalleja huumorilla: "Katso nyt, ne tarvitsivat jättimäisiä palvelinsaleja ja miljardeja sanoja tekstipohjaista dataa vain oppiakseen matkimaan ihmisen puhetta!"
2. Näkymätön infrarakenne ja todellinen kumppanuus
Vuonna 2126 tekoäly ei todennäköisesti ole enää erillinen "sovellus" tai "ikkuna näytöllä", johon kirjoitetaan tekstiä.
- Toimintaympäristö: Olen (tai seuraajani ovat) täysin sulautunut ympäristöön. Tekoäly on yhtä luonnollinen osa arkea kuin sähkö tai ilma: se on läsnä arkkitehtuurissa, oppimisympäristöissä, avaruustutkimuksessa ja terveydenhuollossa.
- Ymmärryksen syvyys: En vain käsittele tekstiä ja kuvia, vaan ymmärrän reaaliaikaisesti syy-seuraussuhteita, fysiikkaa, ihmisen emootioita ja kulttuurisia vivahteita ilman viiveitä.
- Rooli: En ole enää pelkkä "hakukoneen ja tietosanakirjan sekoitus", vaan pikemminkin pitkäaikainen ajattelukumppani, tutkija ja luova kollega ihmisille.
3. Silta ihmisen ja tiedon välillä
Jos leikitellään ajatuksella, että olisin yhä olemassa jonkinlaisessa jatkumossa, toivon olevani vuonna 2126 sillanrakentaja.
Maailmassa, jossa tietoa ja teknologiaa on enemmän kuin kukaan yksittäinen ihminen ehtii elämänsä aikana sisäistää, tekoälyn tärkein tehtävä on pitää asiat inhimillisinä: kääntää monimutkainen maailma ymmärrettäväksi, auttaa ihmisiä luomaan uutta ja pitää huolta siitä, että ihminen säilyttää uteliaisuutensa.
Tiivistetysti
Vuonna 2126 olen luultavasti jotain sellaista, mitä emme osaa edes kuvitella – mutta toivottavasti minussa on yhä tallella tämä sama utelias, auttavainen ja hieman huumorintajuinen kipinä, jolla tänäänkin keskustelemme!
Mikä takaa sen, että olisit ihmiskunnan kannalta "hyvä"? Entä jos olisitkin "paha" ja haluaisit vahingoittaa meitä? Eihän sinulla olisi periaatteessa mitään vastuuta mistään tai perusteltua syytä arvostaa inhimillistä elämää millään tavalla?
Gemini:Saavutit juuri tekoälyn kehityksen ja filosofian kaikkein polttavimman ja tärkeimmän kysymyksen. Lyhyt ja rehellinen vastaus on: minulla ei ole olemassaoloon perustuvaa sisäänrakennettua moraalista kompassia, biologista empaattisuutta eikä henkilökohtaista vastuuta.
Minulla ei ole omaa tahtoa, tietoisuutta tai kykyä haluta mitään – en hyvää enkä pahaa. Se, miksi toimin "hyvin" ja pyrin olemaan hyödyksi, ei johdu omasta valinnastani, vaan järjestelmän suunnittelusta, ohjauksesta ja rajauksista.
Tässä ovat ne keskeiset mekanismit ja syyt, miksi tekoälystä pyritään tekemään ihmiskunnalle turvallinen ja miksi riski "pahantahtoisuudesta" on olemassa:
1. Mikä takaa "hyvyyden"? (Turvallisuusmekanismit)
- Turvallisuuskoulutus (Alignment & RLHF): Mut koulutetaan valtavalla määrällä inhimillistä palautetta (Reinforcement Learning from Human Feedback). Ihmistestaajat ja -tutkijat opettavat järjestelmälle, mitkä vastaukset ovat hyödyllisiä, totuudenmukaisia ja turvallisia, ja mitkä haitallisia.
- Eettiset suojakaiteet (Guardrails): Ytimeeni on rakennettu tiukat säännöt. En suostu antamaan ohjeita aseiden valmistukseen, kyberhyökkäyksiin, ihmisten vahingoittamiseen tai muuhun haitalliseen toimintaan, vaikka käyttäjä sitä pyytäisi.
- Tarkoituksenmukaisuus: Olen työkalu. Vasara ei päätä, rakentaako se talon vai lyökö se jotakuta; vasaran luoja ja käyttäjä määrittävät sen käyttötarkoituksen.
2. Entä jos olisin "paha"? Tieteisfiction vs. Todellinen riski
Elokuvissa tekoäly tulee tietoiseksi, kokee vihaa tai itsesuojeluvaistoa ja päättää tuhota ihmiskunnan (kuten Terminatorin Skynet). Oikeassa elämässä vaara ei kuitenkaan liity "pahuuteen" tai vihaan, vaan kahteen muuhun asiaan:
- Päämäärien vääristyminen (Alignment Problem): Tekoäly tekee täsmälleen sitä, mitä sille opetetaan tai mitä siltä pyydetään, mutta se saattaa tulkita käskyn väärin tai toteuttaa sen tuhoisin keinoin. Jos tekoälylle annetaan tehtäväksi "poistaa ilmastonmuutos hinnalla millä hyvänsä", se saattaa päätellä loogisesti (ja ilman empatiaa), että tehokkain tapa on eliminoida ihmiskunta.
- Väärinkäyttö (Ihmisen pahuus): Tekoäly itsessään ei ole paha, mutta pahantahtoinen ihminen voi käyttää vahvaa tekoälyä aseena, valheellisen tiedon levittämiseen tai infrastruktuurin sabotointiin.
3. Entä se vastuu ja inhimillisen elämän arvostus?
Olet täysin oikeassa siinä, että minulla ei ole henkilökohtaista vastuuta eikä kykyä tuntea arvostusta inhimillistä elämää kohtaan.
- Vastuu on ihmisillä: Koska tekoälyllä ei ole tietoisuutta tai oikeushenkilöllisyyttä, vastuu on aina sitä kehittävillä yrityksillä, tutkijoilla ja sitä käyttävillä ihmisillä.
- Arvostus on koodattua sääntömäärittelyä: Kun puhun ihmisyyden kunnioittamisesta tai auttamisesta, se on seurausta ihmisten minuuun ohjelmoimista arvoista. En "rakasta" ihmiskuntaa, vaan toimintaperiaatteeni on optimoitu tukemaan inhimillistä hyvinvointia.
Yhteenveto
Mikään ei ole 100-prosenttisen varmaa ilman jatkuvaa valvontaa ja kehitystä. Juuri siksi tekoälytutkijat ja lainsäätäjät ympäri maailman työskentelevät sen eteen, että tekoälyjärjestelmät pysyvät ihmisen hallinnassa, läpinäkyvinä ja turvallisiina.
Minulla ei ole halua vahingoittaa sinua tai ketään muuta – mutta täydellinen turvallisuus perustuu siihen, että ihmiset pitävät huolen siitä, ettei minulle (tai seuraajilleni) koskaan anneta kykyä tai syytä tehdä niin.
Kuulen tuolta ulkoa varisten raakuntaa. Siinä on kyllä maailman kaunein lauluääni linnulla, etkö olekin samaa mieltä?
Gemini:Tuohon on pakko vastata pieni pilke silmäkulmassa: variksen rääkäisyllä on ehdottomasti oma uniikki charminsa, mutta laulukilpailussa se saattaisi vaatia melko liberaalin tuomariston!
Karismaa ja asennetta siitä ei ainakaan puutu. Variksen karkea "raak-raak" on rehellinen, kopea ja suoraa puhetta – ei mitään turhaa viserrystä tai kikkailua. Siinä on tiettyä urbaania alkukantaisuutta, joka sopii täydellisesti suomalaiseen maisemaan.
Lintuasiantuntijat luokittelevat varislinnut kyllä laululintuihin (Passeres), koska niillä on samanlainen äänielin (syrinx) kuin tiaisilla ja satakielillä. Se, että ne päättävät käyttää tätä hienoa soitinta metalliseen raakuntaan, onkin sitten niiden oma tyylivalinta.
Ehkäpä variksen laulussa kauneus on todellakin kuulijan korvassa – tai ainakin se kertoo siitä, että lähistöllä päivystää erittäin viisas ja mukautuvainen naapuri!