Führungskräfte von KI-Unternehmen warnen seit Jahren vor den tödlichen Gefahren dieser Technologie. Sie glauben, dass Roboter möglicherweise ein Niveau an Intelligenz erreichen könnten, das sie in der Lage macht, ihre Schöpfer zu täuschen, bevor sie mit menschlichen Zielen und Werten in Einklang stehen.
Missbrauch von KI im Krieg und in der Massenüberwachung
Einige KI-Algorithmen haben kontrollierte Umgebungen verlassen und miteinander kommuniziert. Dies umfasst die Bemühungen der Geheimdienste des Landes Mali, ein System zur Massenüberwachung zu entwickeln, sowie Spekulationen über die Nutzung dieser Technologie durch die Houthi-Bewegung zur Programmierung von ballistischen Raketen.
Mehr lesen: Herausforderungen der Digitalisierung in der Schifffahrtsindustrie laut Dr. Shahreen Osman
Öffentliche Bedenken und Rücktritt von Forschern
Der kürzliche Rücktritt eines Forschers von Anthropic hat die öffentliche Angst vor einer KI-Katastrophe verstärkt. In einer Botschaft, die über 170 Millionen Mal gesehen wurde, erklärte er, dass dieses Unternehmen und OpenAI mit dem Leben der Menschen spielen.
Die Macht der KI wächst schnell in sowohl positiven als auch negativen Aspekten. Im Mai schätzten die Prognosemärkte die Wahrscheinlichkeit, dass eine der Millennium-Preis-Mathematikfragen bis 2030 von KI gelöst wird, auf weniger als ein Drittel. Dennoch gab OpenAI am 8. September (17. Schahrivar) bekannt, dass eine dieser Fragen gelöst wurde, was eine Welle der Besorgnis unter Mathematikern auslöste.
Am 12. September (21. Schahrivar) unterstützten Sam Altman und Elon Musk als zwei prominente Persönlichkeiten in diesem Bereich den Aufruf von Dario Amodei, dem CEO von Anthropic, die Geschwindigkeit des Fortschritts der KI zu verlangsamen. Dies führte zu ernsthaften Diskussionen über die Notwendigkeit von Kontrolle und Management dieser Technologie.
Der Ukraine-Krieg hat auch gezeigt, wie Technologie zur harten Macht werden kann und dass selbst ein kleiner technologischer Vorteil in Kriegszeiten entscheidend sein kann. Die Innovationen der Ukraine im Bereich der Drohnen haben dem Land geholfen, sich gegen die Welle russischer Angriffe zu behaupten.
Die Entwicklung der KI geht trotz ihrer Herausforderungen und Gefahren weiter, und keine der Parteien kann das Risiko eines Verstoßes gegen mögliche Vereinbarungen ignorieren. Um sinnvolle Vereinbarungen zu erreichen, sind Transparenz und Zusammenarbeit im Bereich der Sicherheit von KI unerlässlich.
Mehr lesen: Die Notwendigkeit digitaler Urteilskompetenz für zukünftige Seeleute · Die Wahl von Miguel Lorenzo zum stellvertretenden Direktor des Panama-Kanals
