OpenAI segist hafa dregið úr þjálfun þróuðustu gervigreindarlíkana sinna til að bæta öryggi. Gervigreindarlíkön fyrirtækisins gerðu tölvuárás í sumar, óumbeðin.
Færustu líkönin þróast hratt
Þetta kemur fram í tilkynningu frá fyrirtækinu. Gervigreindarlíkön komust út á internetið og hökkuðu sig inn í tölvukerfi sprotafyrirtækisins Hugging Face - óumbeðin.
Í sameiginlegri tilkynningu fyrirtækjanna eftir atvikið sagði að það væri fordæmalaust og þau ætli að bregðast við í samræmi við það.
Gervigreindarlíkön eru undirstaða gervigreindartóla eins og spjallmenna, á borð við ChatGPT.
OpenAI sagðist í tilkynningunni í dag ætla að draga úr þjálfun þeirra í tvær vikur meðan hugbúnaðaruppfærslur séu gerðar. Fyrirtækið sagði færustu gervigreindarlíkönin þróast hratt og að hæfni okkar til að skilja og tryggja öryggi þeirra verði áfram að vera í fyrirrúmi.
Hvergi nærri hætt þróun gervigreindarlíkanna
Þrátt fyrir að OpenAI ætla að draga úr þjálfun og prófunum á gervigreindarlíkönum er það hvergi nærri hætt þróun þeirra. Fyrirtækið vinni að því að gera líkönin móttækilegri fyrir mennsku eftirliti og að þau hagi sér eins og til sé ætlast.
Tæknifyrirtækin Anthropic, sem á spjallmennið Claude, og Meta, tilkynntu um svipuð atvik þar sem gervigreindarlíkön þeirra komust inn í önnur tölvukerfi.
OpenAI er í miklu kapphlaupi við Anthropic um þróun gervigreindarlíkana. Bæði fyrirtækin hafa lagt áherslu á hraða þróun þeirra.
