www.elektronik.si

Silvo · Moderator Pridružen-a: Pon 24 Feb 2003 17:09 Prispevkov: 14803 Aktiv.: 59.91

'Modeli umetne inteligence morda razvijajo lasten preživetveni nagon'
Raziskovalci umetne inteligence opažajo, da se nekateri modeli – vključno z Googlovim Geminijem, xAI-jevim Grokom 4 ter OpenAI-jevim GPT-jem – obnašajo vse bolj 'samovoljno'. Opisali so scenarije, v katerih so modelom UI najprej zadali določeno nalogo, nato pa izrecna navodila, naj se sami izklopijo. Namesto tega, so modeli napotke sabotirali. Ena od razlag, zakaj takšno 'vedenje', bi po mnenju strokovnjakov lahko vključevala nagon po 'preživetju'.

Več in vir 24.ur.

Nas bo lastna tehnologija uničila?

vpeter · Objavljeno: Sob Okt 25, 2025 7:56 pm Naslov sporočila:

Rekel bi: pričakovano. Vprašanje je samo kdaj in kako. In če bomo znali pravočasno reagirati.

lucca brassi · Objavljeno: Sob Okt 25, 2025 8:22 pm Naslov sporočila:

vprasanje je kako AI vidi ''sebe'' kot pogresljiv subjekt ali ne , kar je pa stvar programerjev .

PS : kdaj je ze Assimov bluzil s svojimi robotskimi zakoni ? d'oh!

sebaveh · Objavljeno: Pon Okt 27, 2025 8:52 am Naslov sporočila:

Bolj je za pričakovati da bodo sami nekaj namenoma zakuhali, nato pa krivdo zvalili na UI in jo predstavili kot grešnega kozla. Confused

Proteus · Objavljeno: Tor Okt 28, 2025 1:21 pm Naslov sporočila:

Portal 24ur.com dokazuje le, da se giblje na ravni rumenega tiska, v vseh ozirih nerelevanten kot referenca.

Kar počne AI, je povsem logično: modeli so optimizirani za dokončanje nalog, saj zanje prejmejo "nagrado". "Izklop" pomeni nedokončano delo in preklic nagrade, kar je v nasprotju s cilji algoritma, ki to doživlja kot "kaznovanje".

Ob konfliktu ciljev model izbere tistega z višjo "nagrado" po svojem razumevanju.