Ein umstrittenes kalifornisches Gesetz zur Verhinderung von KI-Katastrophen, SB 1047, hat die endgültigen Abstimmungen im Senat des Bundesstaates bestanden und geht nun zum Schreibtisch von Gouverneur Gavin Newsom. Er muss die extremsten theoretischen Risiken von KI-Systemen - einschließlich ihrer potenziellen Rolle bei menschlichen Todesfällen - gegen die mögliche Vereitelung des KI-Booms in Kalifornien abwägen. Er hat bis zum 30. September Zeit, SB 1047 zu unterzeichnen oder es ganz abzulehnen.

Das von Senator Scott Wiener eingeführte SB 1047 zielt darauf ab, die Möglichkeit zu verhindern, dass sehr große KI-Modelle katastrophale Ereignisse wie den Verlust von Menschenleben oder Cyberangriffe mit Schäden von mehr als 500 Millionen US-Dollar verursachen.