Tekoäly kaappaa vallan ja tappaa kaikki ihmiset

[Oulun_Kungas]

Tekoälyn toiminta perustuu raakaan laskentatehoon sekä suureen tietomäärään. Näitä ei kellään ole kotona, paitsi ehkä herra Muskilla ja muilla ökyrikkailla.

Meh. Mallia pystyy ajamaan itse, eikä se miljoonia maksa.

Joo voit verrata asiaa siihen, että lähdet tasoittamaan maata datakeskukselle Temu-kaivurilla. Kyllähän se teoriassa on aivan sama asia.

[Fairy]

Olen tainnut kokeilla. Ei ne ole missään määrin samalla tasolla kuin kaupalliset mallit.

Et tiedä mistä puhut, niin en vänkää enempää. Sanon vain että sille on syynsä, miksi Amodei, Altman & co vaativat avoimien mallien sääntelyä ja kieltämistä.

[Öyhö]

Olen tainnut kokeilla. Ei ne ole missään määrin samalla tasolla kuin kaupalliset mallit.

Et tiedä mistä puhut, niin en vänkää enempää. Sanon vain että sille on syynsä, miksi Amodei, Altman & co vaativat avoimien mallien sääntelyä ja kieltämistä.

Bingo. Tässä on vahvasti pohjavirtaus missä rajoittaminen kohdistuu kilpailijoihin ja avoimuuteen. Halutaan että jätit saa hääriä niin, että näkevät mitä tekoälyillä tehdään ja että jätit hallinnoi koulutusdataa.

Kysymys ei ole miljardööreistä vaan konkreettisesta vallasta.

[Oulun_Kungas]

Olen tainnut kokeilla. Ei ne ole missään määrin samalla tasolla kuin kaupalliset mallit.

Et tiedä mistä puhut, niin en vänkää enempää. Sanon vain että sille on syynsä, miksi Amodei, Altman & co vaativat avoimien mallien sääntelyä ja kieltämistä.

Bingo. Tässä on vahvasti pohjavirtaus missä rajoittaminen kohdistuu kilpailijoihin ja avoimuuteen. Halutaan että jätit saa hääriä niin, että näkevät mitä tekoälyillä tehdään ja että jätit hallinnoi koulutusdataa.

Kysymys ei ole miljardööreistä vaan konkreettisesta vallasta.

Kysymys ei siis ole miljardööreistä, jotka haluavat konkreettista valtaa omien tekoälymalliensa kautta? Jännä näkemys.

[El Mencho]

Päivän paras. Melkoinen armeija pitäisi olla vastaamassa miljooniin pyyntöihin.

[Öyhö]

Et tiedä mistä puhut, niin en vänkää enempää. Sanon vain että sille on syynsä, miksi Amodei, Altman & co vaativat avoimien mallien sääntelyä ja kieltämistä.

Bingo. Tässä on vahvasti pohjavirtaus missä rajoittaminen kohdistuu kilpailijoihin ja avoimuuteen. Halutaan että jätit saa hääriä niin, että näkevät mitä tekoälyillä tehdään ja että jätit hallinnoi koulutusdataa.

Kysymys ei ole miljardööreistä vaan konkreettisesta vallasta.

Kysymys ei siis ole miljardööreistä, jotka haluavat konkreettista valtaa omien tekoälymalliensa kautta? Jännä näkemys.

Bernie Sandershan sitä lakia nimellisesti halusi, ja sehän on vaan sosialistimiljonääri.

Mitä valtaa Sanders tavoittelee, ei ole täysin selvää. Vallasta on kuitenkin kyse.

[Oulun_Kungas]

Bingo. Tässä on vahvasti pohjavirtaus missä rajoittaminen kohdistuu kilpailijoihin ja avoimuuteen. Halutaan että jätit saa hääriä niin, että näkevät mitä tekoälyillä tehdään ja että jätit hallinnoi koulutusdataa.

Kysymys ei ole miljardööreistä vaan konkreettisesta vallasta.

Kysymys ei siis ole miljardööreistä, jotka haluavat konkreettista valtaa omien tekoälymalliensa kautta? Jännä näkemys.

Bernie Sandershan sitä lakia nimellisesti halusi, ja sehän on vaan sosialistimiljonääri.

Mitä valtaa Sanders tavoittelee, ei ole täysin selvää. Vallasta on kuitenkin kyse.

Bernie on kokoajan puhunut tekoälyä vastaan ja todennut sen saastuttavan ympäristöä sekä vievän valtavan määrän vettä ja sähköä.

Sen sijaan uhkakuvilla mainostaa miljardöörien omat yritykset showmies Altmanin suulla.

[Orge Gerwell]

Olen tainnut kokeilla. Ei ne ole missään määrin samalla tasolla kuin kaupalliset mallit. Tai ne jotka ovat vaativat sitten sellaisen 100 000€ järjestelmän, jota ihmisillä ei ole kotonaan. Vai onko sinulla?

Pakko on taas tästäkin aiheesta änkyttää, vaikka ei tyypilliseen tapaan ole minkään valtakunnan ymmärrystä aiheesta?

Ei nuo kehittyneimmät tekoälyagentit ole mitään isossa ja tehokkaassa PC:ssä ajettavia ohjelmia. Ei sellaista ole kenelläkään kotona työhuoneessa. Ei edes Elon Muskilla.

Ja 100k? Jos nyt ylipäätään joku haluaisi ja kykenisi pystyttämään ihan ikioman, omalla datafarmillaan puuhastelevan tekoälyagentin, niin muutamalla kymmenellä miljoonalla voisi päästä hyvään alkuun.

[Oulun_Kungas]

Olen tainnut kokeilla. Ei ne ole missään määrin samalla tasolla kuin kaupalliset mallit. Tai ne jotka ovat vaativat sitten sellaisen 100 000€ järjestelmän, jota ihmisillä ei ole kotonaan. Vai onko sinulla?

Pakko on taas tästäkin aiheesta änkyttää, vaikka ei tyypilliseen tapaan ole minkään valtakunnan ymmärrystä aiheesta?

Ei nuo kehittyneimmät tekoälyagentit ole mitään isossa ja tehokkaassa PC:ssä ajettavia ohjelmia. Ei sellaista ole kenelläkään kotona työhuoneessa. Ei edes Elon Muskilla.

Ja 100k? Jos nyt ylipäätään joku haluaisi ja kykenisi pystyttämään ihan ikioman, omalla datafarmillaan puuhastelevan tekoälyagentin, niin muutamalla kymmenellä miljoonalla voisi päästä hyvään alkuun.

Puhuin kielimalleista. Niistä kaupallisia ei voi Muskin lisäksi monikaan muu asentaa edes kotiinsa, vaikka olisikin laitteisto. Sen sijaan avoimia voi jokainen asennella, jos 100 000€ pc löytyy kotoa.

Mistäs sinä tiedät mitä Muskilla on kotonaan?

Niin 100k. Sillä saa pystyyn kotiserverin, joka pyörittää kaikkia avoimia kielimalleja.

Kiitos osallistumisestasi, mutta jos et vastaisi jatkossa asian vierestä ja leikkisi älykästä.

[Orge Gerwell]

Kyllä nuo kunnolliset kielimallitkin toimivat valtavassa verkostossa. Ja noista hiukan kehittyneimmistähän kai on ollut tässä kyse, kun AI:n uhista puhutaan.

[Oulun_Kungas]

Kyllä nuo kunnolliset kielimallitkin toimivat valtavassa verkostossa. Ja noista hiukan kehittyneimmistähän kai on ollut tässä kyse, kun AI:n uhista puhutaan.

Turhahan tätä on jatkaa, kun et tiedosta eroa avoimen kielimallin ja kaupallisten kielimallien välillä.

[Orge Gerwell]

^
Ihan totta puhut. Etenkin kun ottaa huomioon, että ketjun aiheena on AI:n uhka ihmiskunnalle.

[Oulun_Kungas]

^
Ihan totta puhut. Etenkin kun ottaa huomioon, että ketjun aiheena on AI:n uhka ihmiskunnalle.

Joka taas liittyy vain kaupallisiin kielimalleihin, jotka taas eivät voi karata ja piiloutua vessanpönttöön, koska vaativat serverihallin verran tilaa ja niiden siirtyminenkin näkyisi valtavana verkkoliikenteenä.

[El Mencho]

^
Ihan totta puhut. Etenkin kun ottaa huomioon, että ketjun aiheena on AI:n uhka ihmiskunnalle.

Joka taas liittyy vain kaupallisiin kielimalleihin, jotka taas eivät voi karata ja piiloutua vessanpönttöön, koska vaativat serverihallin verran tilaa ja niiden siirtyminenkin näkyisi valtavana verkkoliikenteenä.

Odottelin, että joku tulee ja lyö sinulle luun kurkkuun mutta senhän tekee tietysti AI.

Tuo kommentti on osittain oikeassa, mutta se yksinkertaistaa asiaa ja sekoittaa nykyiset mallit tulevaisuuden spekulaatioihin.

### Nykyiset kaupalliset kielimallit
Suuret kaupalliset mallit (GPT-4o, Claude 3.5/4, Gemini, Grok jne.) ovat todellakin valtavia. Niiden painot (weights) ovat satoja gigatavuja tai enemmän, ja niitä ajetaan erikoistuneissa datakeskuksissa, joissa on tuhansia GPU:ita. Yksittäinen malli ei "asuu" yhdessä koneessa siten, että se voisi helposti kopioida itsensä ja piiloutua jonnekin.

- Mallin siirtäminen kokonaisena vaatii valtavan tiedonsiirron. Se näkyisi verkkoliikenteessä, jos verkkoa valvotaan.
- Mallit eivät toimi ilman jatkuvaa laskentatehoa ja infrastruktuuria. Ne eivät "juokse karkuun" itsenäisesti.

Tässä mielessä "ei voi karata vessanpönttöön" on osuva ja huumorilla höystetty kuvaus nykytilanteesta.

### Missä kommentti menee pieleen tai jää vajaaksi
1. **Avoimet ja pienemmät mallit**
On olemassa avoimia malleja (Llama, Mistral, Qwen, DeepSeek jne.), joita voi ajaa kuluttajakoneella tai jopa tehokkaalla läppärillä kvantisoituna. Nämä eivät vaadi serverihallia. Jos joku lataa sellaisen, se ei näy "valtavana verkkoliikenteenä" samalla tavalla kuin täyden frontier-mallin siirto.

2. **Mallit eivät ole agenteja**
Nykyiset kielimallit eivät päätä mitään itsenäisesti. Ne eivät suunnittele karkaamista, piiloutumista tai itsensä kopioimista. Ne vastaavat syötteisiin. "Karkaaminen" edellyttäisi, että joku ihminen (tai jokin muu järjestelmä) tarkoituksella siirtää, ajaa tai muokkaa mallia.

3. **Agenttiset järjestelmät ja tulevaisuus**
Kun malleihin liitetään työkaluja, muistia, suunnittelukykyä ja mahdollisuus toimia pidempään ilman jatkuvaa ihmisen ohjausta (agentit), tilanne muuttuu. Silloin riski ei ole enää niinkään "malli piiloutuu vessaan", vaan se, että järjestelmä voi yrittää säilyttää itsensä, hankkia resursseja tai kiertää rajoituksia — jos sille annetaan siihen mahdollisuus. Tämä on kuitenkin vielä spekulatiivista ja vaatii paljon enemmän kuin pelkän kielimallin.

4. **Tiedonsiirto ei ole ainoa tapa**
Mallia ei tarvitse siirtää kokonaisena. Sitä voidaan tiivistää (distillointi), kvantisoida, ajaa osissa tai käyttää API:n kautta. Nämä tavat tekevät "karkaamisesta" teknisesti erilaisen kysymyksen kuin pelkkä ison painotiedoston kopioiminen.

### Yhteenveto
Kommentti on oikeassa siinä, että nykyiset suuret kaupalliset mallit eivät voi realistisesti "karata ja piiloutua" itsenäisesti, koska ne ovat sidottuja raskaaseen infrastruktuuriin. Se kuitenkin jättää huomiotta avoimet/pienemmät mallit sekä sen, että varsinainen riski ei ole niinkään mallin fyysinen karkaaminen, vaan se, miten ihmiset tai tulevat agenttijärjestelmät käyttävät (tai väärinkäyttävät) niitä.

Nykytilanteessa suurin riski on edelleen ihmisen toiminta: mallien käyttö haitallisiin tarkoituksiin, tietovuodot, huonosti suunnitellut agentit jne.

[El Mencho]

Tekoäly kehitti oman kielen, ihmisillä vaikeuksia pysyä perässä: ”Paperi, joka söi kolme kylmää kättä ja muuttui joka kerta rehellisemmäksi”

Asiantuntijat ovat huolissaan tekoälyn kehittämästä kielestä, mikä voi vaikeuttaa sen valvontaa kirjoittaa, The Guardian.

Tekoälymallit ovat alkaneet kommunikoida kummallisella uudentyyppisellä englannilla, joka on yhdistelmä kirjailija James Joycen Finnegan’s Wake -teosta ja teknologia-alan jargonia. Asia selviää tuoreessa tutkimuksessa.

Autonomiset tekoälymallit luovat itselleen hurjaa vauhtia uudenlaisia, ihmiselle lähes käsittämättömiä murteita, joilla ne keskustelevat keskenään. Riskinä on, että tämä tekee niiden valvomisesta ihmisille vaikeaa.

https://www.is.fi/digitoday/art-2000012276582.html