Ett stort antal experter, forskare, entreprenörer och andra har skrivit under ett öppet brev som uppmanar företag och andra organisationer att ”pausa gigantiska ai-experiment”.
Under det halvåret är tanken att alla ai-forskare tillsammans ska utveckla och implementera skyddsprotokoll för avancerad ai-design som granskas och övervakas av fristående externa experter.
Bland de som skrivit under brevet märks bland andra Apples medgrundare Steve Wozniak, Elon Musk som själv var med och grundade Open AI, Emad Mostaque som grundade Stability AI, amerikanska presidentkandidaten Andrew Yang och Getty Images vd Craig Peters.
Forskare från universitet runt om i världen som Berkeley, Toulouse, Örebro, Carnegie Mellon, Málaga, Belgrad, Oxford och Cambridge har också skrivit under, och likaså anställda som jobbar med ai på bland annat Google Deepmind.
Brevets författare skriver att kraftfulla ai-system bara bör utvecklas vidare när världen har försäkrat sig om att deras effekt blir positiv och att riskerna är hanterbara. Huvuduppmaningen i brevet är att alla ai-labb omedelbart ska pausa utvecklingen av system som är kraftfullare än Open AI:s GPT-4 i minst sex månader.