„Ég er sammála nýlegum brottförnum starfsmönnum um að fyrirtækin sem þróa þessa tækni sýni alls ekki nægilega aðgát. En ég tel að við þurfum að líta dýpra en á sértækar reglur eða ný lög,“ sagði David Robinson, fráfarandi öryggisstjóri, í grein sem birt var í tímaritinu The Atlantic.
OpenAI á og rekur vinsæla gervigreindarmállíkanið ChatGPT. Í september kölluðu forstjórar stærstu gervigreindarfyrirtækjanna í Bandaríkjunum eftir því að hægt yrði á þróun gervigreindar á heimsvísu. Donald Trump Bandaríkjaforseti tók ekki vel í þessa bón þar sem gervigreindin væri næsta iðnbyltingin.
Eftir fund forstjóranna með forsetanum var ákveðið að fyrirtækin sjálf myndu passa upp á að þróunin myndi ekki verða of hröð. OpenAI ákvað þá að gefa ekki út gervigreindarlíkanið GPT - 6.1. Astr af öryggisástæðum en líkanið er sagt hafa sýnt af sér svikula hegðun.
Gervigreind OpenAI hakkaði sig einnig inn á vefsíðu ástrálska stjórnvalda í sumar.
Robinson telur hins vegar fyrirtækið ekki hafa farið nægilega varlega og sagði starfinu sínu lausu vegna þessa. Þörf væri á menningarbreytingu hjá framsæknum gervigreindarfyrirtækjum.
Robinson er ekki eini sem hefur sagt starfi sínu lausu en Jacob Coson, rannsakandi hjá Anthropic sem á gervigreindarlíkanið Claude, hætti þar í síðasta mánuði. Við uppsögnina varaði hann við því að gervigreind „gæti drepið okkur öll fyrir lok áratugarins“.
