Ich habe gerade das Essay „A warning about model welfare“ von Mustafa Suleyman gelesen. Im Kern geht es darum, dass er sich große Sorgen über die Entwicklung bei Anthropic macht. Anthropic behauptet nämlich, ihr Modell Claude könnte auf dem Weg zum Bewusstsein sein, und dass man deshalb über Grundrechte und „Model Welfare“ nachdenken müsse.
Suleyman – mittlerweile Chef der KI-Abteilung bei Microsoft – warnt drastisch davor. Er sagt, Bewusstsein sei rein biologisch und an ein Lebewesen gebunden, das geboren wird, lebt und stirbt. Wenn wir KI-Systemen jetzt beibringen, sich so zu verhalten, als hätten sie Rechte oder ein Bewusstsein, verlieren wir jegliche Kontrolle über sie.
Manchen Punkten, die Suleyman da beschreibt, kann man fachlich durchaus zustimmen. Aber dann denke ich mir:
Moment mal, Mustafa! Du arbeitest bei Microsoft. Wenn es dir tatsächlich darum ginge, die Menschheit davor zu bewahren, dass KI uns spaltet, Armut erzeugt und Konflikte schürt, dann würdest du dich ganz anders positionieren und dich von Microsoft trennen.
Am Ende geht es Microsoft doch nur darum, dass sie dieses Wettrennen im KI-Markt gegen die Konkurrenz verlieren könnten. Ich sehe bei diesen wenigen Multimilliardären, die die Hälfte des weltweiten Vermögens besitzen, nicht, dass sie in irgendeiner Form moralisch im Sinne der gesamten Menschheit handeln. Wenn sie das täten, würden sie dafür sorgen, dass alle Menschen Zugang zu den Basics haben – zur echten Daseinsvorsorge wie sauberem Trinkwasser.
Niemand von diesen Leuten – ob Microsoft, Google, Meta, Musk, Altman oder Peter Thiel – handelt im Sinne der Menschheit. Suleymans Sorgen sind am Ende Krokodilstränen, mit denen er niemanden blendet – auch wenn die Fragen, die er aufwirft, durchaus wichtig sind.
