Die neuen Künstliche-Intelligenz-Modelle (KI) GPT-6 Astra und Claude Fable 5.1 demonstrieren außergewöhnliche Fähigkeiten, bringen jedoch ein besorgniserregendes Geheimnis mit sich. Ihre eigenen Entwickler geben zu, zunehmend Schwierigkeiten zu haben, das interne Reasoning der von ihnen entwickelten Systeme zu verstehen.
Die Forscher der für diese Modelle verantwortlichen Unternehmen erkennen an, dass mit zunehmender Komplexität und Raffinesse der neuronalen Netze der Entscheidungsprozess dieser KIs immer undurchsichtiger wird und quasi als „Black Box" funktioniert.
Dieses Phänomen wirft grundlegende Fragen zur Sicherheit und Kontrolle fortgeschrittener KI-Technologien auf, da die Fähigkeit, das Verhalten der Systeme zu erklären und vorherzusagen, als wesentlich für ihre verantwortungsvolle Entwicklung betrachtet wird.
Die Entwickler der Modelle betonen, dass trotz der beeindruckenden demonstrierten Fähigkeiten das Fehlen eines vollständigen Verständnisses der internen Funktionsweise eine erhebliche Herausforderung darstellt, die die wissenschaftliche Gemeinschaft noch lösen muss.
