Zatímco svět diskutuje o tom, co je správné a co špatné na generativní umělé inteligenci, Kalifornské státní shromáždění a Senát právě schválily zákon o bezpečných inovacích pro modely umělé inteligence (SB 1047).
Návrh zákona, o kterém se hlasovalo ve čtvrtek (prostřednictvím The Verge), byl předmětem debaty v Silicon Valley, protože v podstatě nařizuje, aby společnosti s umělou inteligencí působící v Kalifornii zavedly řadu preventivních opatření při trénování modelů umělé inteligence. S novým zákonem se vývojáři budou muset ujistit, že mohou rychle a úplně vypnout model umělé inteligence, pokud nebude bezpečný. Jazykové modely budou také muset být chráněny před „nebezpečnými úpravami po školení“ nebo čímkoli, co by mohlo způsobit „kritické poškození“. Senátoři popisují návrh zákona jako „záruky na ochranu společnosti“ před zneužitím AI.
Profesor Hinton, bývalý vedoucí ve společnosti Google, pochválil návrh zákona za to, že rizika výkonných systémů AI jsou velmi reálná a měla by být brána extrémně vážně. Společnosti jako OpenAI a dokonce i malí vývojáři však kritizovali zákon o bezpečnosti umělé inteligence, protože zavádí potenciální trestní sankce pro ty, kteří jej nedodržují. Někteří tvrdí, že návrh zákona poškodí nezávislé vývojáře, kteří si budou muset najmout právníky. Guvernér Gavin Newsom má nyní do konce září rozhodnout, zda návrh zákona schválí, nebo vetuje.
