Jacob Coxon, ehemaliger Forscher des Unternehmens Anthropic, hat sein Amt niedergelegt und warnte öffentlich, dass Fachleute im Bereich der künstlichen Intelligenz „ehrlich erschrocken" über das aktuelle Entwicklungstempo der Technologie sind. Coxon ist eine der kritischen Stimmen, die den Sektor verlassen hat, um ihre Bedenken zu äußern.
Der ehemalige Forscher warnt, dass wenn es keine Verlangsamung im Tempo des Fortschritts der künstlichen Intelligenz gibt, eine starke Möglichkeit besteht, dass die Technologie katastrophale Folgen für die Menschheit verursacht. Die Warnung kommt zu einem Zeitpunkt, zu dem mehrere Unternehmen und Forscher auf eine freiwillige Verlangsamung der Entwicklung von KI-Systemen drängen.
Anthropic, das Unternehmen, bei dem Coxon arbeitete, ist bekannt für die Entwicklung des KI-Assistenten Claude. Das Unternehmen war eines derjenigen, das den größten Nachdruck auf die Sicherheit und Ausrichtung der künstlichen Intelligenz legt, obwohl Coxon der Meinung ist, dass selbst diese Maßnahmen angesichts des aktuellen Fortschrittstempos möglicherweise nicht ausreichen.
Diese Warnung schließt sich einer wachsenden Bewegung von Experten und Unternehmen des Sektors an, die zu größerer Vorsicht bei der Entwicklung von KI aufrufen. Die wissenschaftliche Gemeinschaft hat intensiv über die existenziellen Risiken diskutiert, die mit der Schaffung von immer fortschrittlicheren Systemen verbunden sind, ohne dass ein Konsens darüber besteht, wie diese Gefahren zu bewältigen sind.
