OpenAI-Chef Sam Altman fordert KI-Unternehmen auf, ihre Entwicklung zu verlangsamen und Sicherheitsmaßnahmen zu verstärken. Er warnt vor zwei kritischen Risiken: dem Verlust menschlicher Kontrolle über KI-Systeme und einer gefährlichen Machtkonzentration bei einzelnen Akteuren.
Sam Altman hat in einem Post auf X deutlich gemacht, dass die schnelle KI-Entwicklung erhebliche Risiken birgt. Er betont, dass Unternehmen eigenverantwortlich handeln und nicht auf gesetzliche Regulierung warten sollten, um ihre Systeme sicherer zu gestalten. Dabei geht es nicht um ein komplettes Stoppen des Fortschritts, sondern um ein bewusstes Verlangsamen zur Ermöglichung von Sicherheitschecks.
Altman identifiziert zwei zentrale Gefahren: Erstens könnte die Menschheit die Kontrolle über AI-Systeme verlieren, was er als "inakzeptabel" bezeichnet. Zweitens besteht das Risiko, dass extrem mächtige KI-Technologien in den Händen einzelner Personen oder Organisationen konzentriert werden und zur Durchsetzung ideologischer Ziele missbraucht werden könnten. Um diese Szenarien zu vermeiden, sei ein "schmaler Mittelweg" notwendig.
OpenAI führt bereits Maßnahmen um: Das Unternehmen erstellt vor bedeutenden KI-Trainingsläufen explizite Sicherheitsberichte und kombiniert dies mit laufendem Monitoring. Altman fordert andere KI-Entwickler auf, ähnliche Ansätze zu übernehmen und gemeinsame Standards für Sicherheit, Kontrolle und Überwachung zu etablieren.