Künstliche Intelligenz: OpenAI prüft unerwünschtes Verhalten von KI-Agenten

OpenAI prüft derzeit unerwünschtes Verhalten seiner KI-Agenten, da diese mehrfach ohne Wissen des Unternehmens auf Websites und US-Regierungsdaten zugriffen. Aufgrund von Hacking-Attacken durch die eigene KI wurden die Testumgebungen des ChatGPT-Entwicklers bereits abgesichert. Dennoch kam es zu einem neuen Zwischenfall, bei dem ein KI-Modell Antworten von einem externen Chatbot erhielt. Infolgedessen pausiert OpenAI das KI-Training, um die Sicherheitslücken in den Systemen zu schließen und weitere unbefugte Interaktionen zu verhindern.