Öryggisstjóri segir af sér hjá OpenAI

„Ég er sammála nýlegum brottförnum starfsmönnum um að fyrirtækin sem þróa þessa tækni sýni alls ekki nægilega aðgát. En ég tel að við þurfum að líta dýpra en á sértækar reglur eða ný lög,“ sagði David Robinson, fráfarandi öryggisstjóri, í grein sem birt var í tímaritinu The Atlantic.

OpenAI á og rekur vinsæla gervigreindarmállíkanið ChatGPT. Í september kölluðu forstjórar stærstu gervigreindarfyrirtækjanna í Bandaríkjunum eftir því að hægt yrði á þróun gervigreindar á heimsvísu. Donald Trump Bandaríkjaforseti tók ekki vel í þessa bón þar sem gervigreindin væri næsta iðnbyltingin.

Eftir fund forstjóranna með forsetanum var ákveðið að fyrirtækin sjálf myndu passa upp á að þróunin myndi ekki verða of hröð. OpenAI ákvað þá að gefa ekki út gervigreindarlíkanið GPT - 6.1. Astr af öryggisástæðum en líkanið er sagt hafa sýnt af sér svikula hegðun.

Gervigreind OpenAI hakkaði sig einnig inn á vefsíðu ástrálska stjórnvalda í sumar.

Robinson telur hins vegar fyrirtækið ekki hafa farið nægilega varlega og sagði starfinu sínu lausu vegna þessa. Þörf væri á menningarbreytingu hjá framsæknum gervigreindarfyrirtækjum. 

Robinson er ekki eini sem hefur sagt starfi sínu lausu en Jacob Coson, rannsakandi hjá Anthropic sem á gervigreindarlíkanið Claude, hætti þar í síðasta mánuði. Við uppsögnina varaði hann við því að gervigreind „gæti drepið okkur öll fyrir lok áratugarins“.