Ein Forscher von Anthropic, dem Unternehmen hinter dem KI-Assistenten Claude, vertrat die Ansicht, dass die Entwicklung der künstlichen Intelligenz „mehr als 10% Risiko für das Aussterben der Menschheit" darstellen könnte. Diese Einschätzung wurde im Zusammenhang mit einer zunehmenden Debatte über die mit der Entwicklung immer fortschrittlicherer KI-Systeme verbundenen Gefahren abgegeben.
Seinem Forscher zufolge stellt die derzeit existierende künstliche Intelligenz ein niedriges Risiko für die Menschheit dar. Seine Bedenken konzentrieren sich jedoch auf die Zukunft der Technologie und darauf, was mit der weiteren Evolution dieser Systeme entstehen könnte.
Die Position von Anthropic fügt sich in eine breitere Debatte in der Technologiebranche ein, in der verschiedene Unternehmen und Forscher unterschiedliche Bedenken hinsichtlich der Risiken der KI geäußert haben. Während einige Stimmen vor existenziellen Gefahren warnen, minimisieren andere die Risiken der aktuellen Technologien.
Der Forscher betonte, dass das Problem nicht im aktuellen Stand der Technologie liegt, sondern in den Richtungen, die die Entwicklung der KI in Zukunft einschlagen könnte, und deutete an, dass angemessene Sicherheitsmaßnahmen und Regulierungen erforderlich sind, um potenzielle Risiken zu mindern.
