Jakub Pachocki, Chefwissenschaftler von OpenAI, hat öffentlich die Notwendigkeit einer „äußersten Vorsicht" beim Fortschritt der Künstlichen Intelligenz gefordert. In seinen Aussagen warnte Pachocki, dass niemand wirklich auf das beschleunigte Entwicklungstempo der Technologie vorbereitet ist.
Der Wissenschaftler äußerte besondere Besorgnis über die Möglichkeit, dass die KI beginnen könnte, zunehmend aktiver an ihrem eigenen Entwicklungsprozess teilzunehmen. Diese Perspektive wirft Fragen auf über die menschliche Kontrolle über Systeme, die nach und nach in der Lage sein könnten, sich autonom zu verbessern.
Die Position von Pachocki spiegelt eine wachsende Strömung von Experten wider, die mehr Reflexion und Regulierung fordern, bevor man zu immer raffinierteren KI-Systemen übergeht. Die Warnung erfolgt zu einem Zeitpunkt, an dem OpenAI und andere Unternehmen die Fähigkeiten ihrer Künstlichen-Intelligenz-Systeme weiter ausbauen.
