Deutschlands Firmen entdecken KI – ausgerechnet jetzt wollen Entwickler bremsen #142

00:00:00: Herzlich Willkommen zu Epoch im Fokus mit dem Thema KI-Entwickler wollen Bremsen.

00:00:04: Deutschlands Firmen entdecken KI, ausgerechnet jetzt wollen Entwickler bremsen.

00:00:10: Eine Analyse von Patrick Langendorf vom siebzehnten September.

00:00:13: zwanzig sechsundzwanzig am Mikrofon Alexander Sieber.

00:00:17: Deutschland's Unternehmen setzen zunehmend auf KI doch ausgerechnet führende Entwickler wollen das Tempo drosseln was das für Investitionen Produktivität und den KI Einsatz hierzulande bedeuten könnte.

00:00:29: Der Wettlauf um künstliche Intelligenz kennt bislang in erster Linie eine Richtung schneller.

00:00:35: Leistungsfähigere Modelle sollen Unternehmen produktiver machen, Forschung beschleunigen und Aufgaben übernehmen für die bislange Menschen benötigt wurden.

00:00:43: Staaten investieren im Rechenzentren.

00:00:45: Unternehmen stellen Arbeitsabläufe auf die neue Technik ein.

00:00:49: Auch deutsche Firmen beginnen gerade erst KI in größerem Umfang einzusetzen.

00:00:54: Nun kommt ausgerechnet aus der Branche selbst die Forderung das Tempo zu verringern.

00:00:59: Dario Amodei, Geschäftsführer des US-amerikanischen KI-Unternehmens Antropic fordert in einem Essay mit dem Titel We must pace the Frontier ausdrücklich.

00:01:10: Zitat Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI Modellen verbessern.

00:01:16: Fortschritte werde es weiterhin geben.

00:01:18: Die gewonnene Zeit soll jedoch genutzt werden damit Sicherheitsforschung und Schutzmaßnahmen mit den Fähigkeiten der Systeme Schritt halten können.

00:01:26: Einen allgemeinen Entwicklungsstopp fordert Amodei

00:01:28: nicht.".

00:01:29: Das Tempo zu drosseln bedeutet nicht, das Training von Modellen oder den technischen Fortschritt zu stoppen.

00:01:35: Stellt ja klar!

00:01:36: Unternehmen sollten sich viel mehr ausreichend Zeit nehmen ihre Modelle sicher auszurichten und abzusichern.

00:01:43: Amodeis schlägt dafür unter anderem unabhängige Prüfer mit weitreichenden Einblicken in die Unternehmen sowie gemeinsame Sicherheitsstandards der Entwickler vor.

00:01:52: Langfristig hält er auch internationale Absprachen für notwendig.

00:01:56: Auch beim Konkurrenten OpenAI wird inzwischen offen über eine Verlangsamung gesprochen.

00:02:02: Chief Scientist Jacob Pachocki mahnt in seinem Beitrag ein fremder Geist zu einem vorsichtigen Vorgehen.

00:02:08: Zitat, diese Zeit verlangt äußerste Vorsicht, schreibt er.

00:02:12: OpenAI werde weiter an technischen Lösungen und Schutzsystemen arbeiten und die weitere Skalierung bei Bedarf einseitig aussetzen.

00:02:20: Pachocchi hält Maßnahmen über das eigene Unternehmen hinaus für erforderlich.

00:02:25: Damit nähern sich zweiführende KI-Entwickler in einem wesentlichen Punkt an.

00:02:29: Die Entwicklung künstlicher Intelligenz soll nicht beendet werden, zur Debatte steht vielmehr ob immer leistungsfähigere Systeme weiterhin in möglichst kurzer Folge entwickelt werden sollten oder ob Sicherheitsprüfungen und gemeinsame Regeln künftig stärker das Tempo bestimmen.

00:02:45: Wenn die Entwickler selbst bremsen.

00:02:47: Anchopic hat für steigende Fähigkeiten seiner Systeme ein eigenes Regelwerk geschaffen.

00:02:52: Die Responsible Scaling Policy sieht vor, Sicherheitsmaßnahmen entsprechend den festgestellten Risiken zu verschärfen.

00:02:59: Dabei untersucht das Unternehmen unter anderem Gefahren durch Cyberangriffe, biologische Anwendungen und Systeme die selbstaufgabende KI-Forschung übernehmen könnten.

00:03:08: Auch OpenAI hat Entwicklungsarbeiten verzögert.

00:03:11: Mit der Augusta erklärte das Unternehmen Arbeiten an seinem kommenden Modell GPT-Sex Astra teilweise auszusetzen bis strengere Sicherheitsvorkehrungen umgesetzt sein.

00:03:21: Anfang September teilte OpenAI mit Teile der Entwicklung und Veröffentlichung über mehrere Wochen verzögert zu haben.

00:03:28: Für den Entwickler entsteht damit ein Dilemma, wer sich mehr Zeit für Sicherheitstests nimmt riskiert das ein Konkurrent schneller ein leistungsfähigeres Modell auf den Markt bringt.

00:03:38: Wer dagegen möglichst schnell weiterentwickelt muss darauf achten dass die Sicherheitsvorkehrungen mit den neuen Fähigkeiten Schritt halten.

00:03:45: Warum die Unternehmen davor warnen, zeigt ein Jobbick anhand Eigenuntersuchungen.

00:03:49: Der Entwickler von Claude berichtet über Fälle in denen Akteure versucht hätten KI-Modelle etwa für Cyberangriffe Betrug Spionage und Waffenentwicklung sowie zur Überwachung von Minderheiten und Regierungsgegnern zu nutzen.

00:04:03: Ein Jobbik betont allerdings dass es sich um ausgewählte Missbrauchsfälle handele.

00:04:07: Sie seien nicht typisch für die gewöhnliche Nutzung von Claud.

00:04:11: Der Bericht zeigt damit nicht, dass KI kurz davor steht außer Kontrolle zu geraten.

00:04:15: Er macht aber das Problem deutlich vor dem die Entwickler stehen.

00:04:18: je leistungsfähiger ihre Modelle werden desto mehr können sie für nützliche Zwecke eingesetzt werden aber auch für Anwendungen die erheblichen Schaden verursachen können.

00:04:28: Deutschlands Unternehmen steigen gerade ein.

00:04:31: Für Deutschland kommt die Debatte zu einer Zeit, in der die Wirtschaft an eine breiteren Einführung von KI-Anwendungen arbeitet.

00:04:37: Nach Angaben des Statistischen Bundesamtes, DSTATIS verwendeten im Jahr im Jahr vorhin etwa siebenundzwanzig Prozent der Unternehmen mit mindestens zehn Beschäftigten

00:04:45: K.I.,

00:04:46: bei Großunternehmen mit mind.

00:04:47: zweihundertfünfzig Beschäftigte waren es sieben und fünfzig Prozent.

00:04:51: Viele Betriebe haben die Möglichkeiten für Handeln das Systeme damit noch nicht ausgeschöpft Von den Unternehmen, die KI nicht einsetzten.

00:04:58: Eine Nutzung aber erwogen hatten, nannten laut des Datis, seventy-two Prozent fehlendes Wissen als Hindernis.

00:05:05: Zweiundsechzig Prozent verwiesen auf unklare rechtliche Folgen.

00:05:08: Sechszig Prozent auf Datenschutz

00:05:10: bedenken.".

00:05:10: Die Ergebnisse wurden im November zwanzig fünfundzwanzig veröffentlicht.

00:05:15: Eine langsammere Entwicklung neuer KI-Modelle würde deshalb nicht bedeuten, dass der KI Einsatz in Deutschland zum Stillstand käme sondern das neue und leistungsfähige KI Modelle später verfügbar wären als bisher erwartet.

00:05:27: Für viele Unternehmen besteht die Herausforderung zunächst darin bereits verfügbare Technik sinnvoll in ihre Abläufe einzubauen.

00:05:37: Warum Unternehmen in KI investieren zeigt eine Befragung der Europäischen Zentralbank unter zwanzigtausend Menschen.

00:05:45: Laut der im August veröffentlichten Umfrage stieg der Anteil der Arbeitnehmer, die KI bei ihrer Arbeit verwenden, von sechsundzwanzig Prozent im Jahr zwanzig vierhnzwanziger auf einundvierzig Prozent zweizig fünfundzwzig und zweiundfünfzig Prozent in diesem Jahr.

00:05:58: Nutze berichteten im Durchschnitt von drei Stunden eingesparte Arbeitszeit pro Woche.

00:06:03: Besonders groß waren die angegebenen Zeitgewinne unter anderem beim Programmieren und bei der Fehlersuche ins Software.

00:06:09: Die EZB warnt allerdings davor, eingesparte Arbeitszeit unmittelbar mit zusätzlicher Wirtschaftsleistung gleichzusetzen.

00:06:16: Produktivität entsteht erst wenn die frei werdende Zeit für andere wertschöpfende Aufgaben eingesetzt wird.

00:06:22: Europa will gleichzeitig aufholen.

00:06:25: Auch auf politischer Ebene deutet wenig auf einen Rückzug aus KI hin.

00:06:29: Die Europäische Kommission plant über ihren Aktionsplan KI-Kontinent Investition von zweihundert Milliarden Euro zu mobilisieren.

00:06:36: Im Vergleich dazu hat allein OpenAI laut Financial Times im vergangenen Jahr US-Dollar für Entwicklung und Vermarktung von KI ausgegeben.

00:06:46: Parallel reguliert die EU die Technologie, der AI Act verpflichtet Anbieter besonders leistungsfähige Modelle unter anderem dazu systemische Risiken zu untersuchen und zu begrenzen schwerwiegende Vorfälle zu melden und Schutzmaßnahmen gegen Cyberangriffe zu treffen.

00:07:02: Brüssel verfolgt damit zwei Ziele.

00:07:04: Es will bei KI aufholen und gleichzeitig die riesigen, leistungsfähige Systeme begrenzen.

00:07:09: Für Deutschland ist das relevant weil viele Unternehmen KI über Software-und Cloud Anbieter beziehen während die zugrunde liegenden Modelle häufig außerhalb Europas entwickelt werden.

00:07:20: Wer bremst zuerst?

00:07:22: Damit wird aus der Sicherheitsdiskussion ein Koordinationsproblem.

00:07:25: Ein Jobbik kann seine Entwicklung verlangsamen, OpenAI ebenfalls – solange andere Anbieter die Entwicklung weiter beschleunigen entstehen für jedes Unternehmen jedoch Kosten wenn es freiwillig zurückbleibt.

00:07:37: International verschärft sich dieser Konflikt.

00:07:39: Die USA beabsichtigen ihre technologische Führungsposition zu sichern während Europa eigene Rechenkapazitäten aufbaut und China eigene Modelle und Infrastruktur entwickelt.

00:07:49: Gemeinsame Sicherheitsgrenzen müssten deshalb über einzelne Unternehmen hinausreichen.

00:07:54: OpenAI-Forschungschef Park Ok plädiert im oben erwähnten Beitrag entsprechend für verbindliche Schwellen, die auch von unabhängigen Prüfern, staatlichen Stellen oder internationalen Institutionen überwacht werden könnten – zugleich räumte ein dass eine verlangen Sammung der Entwicklung koordiniert werden müsste damit verantwortungsvoll handelnde Entwickler nicht dauerhaft gegenüber Konkurrenten zurückfallen Was das für Unternehmen bedeutet?

00:08:19: Für deutsche Unternehmen entsteht damit eine neue Unsicherheit.

00:08:22: Bislang konnten sie davon ausgehen, dass die großen KI-Entwickler ihre Modelle in kurzen Abständen verbessern und neue Fähigkeiten möglichst schnell auf den Markt bringen.

00:08:31: Diese Erwartung ist nicht mehr selbstverständlich – noch ist offen ob aus den Forderungen der Entwickler tatsächlich gemeinsame Regeln oder längere Abstände zwischen neuen Modellgenerationen entstehen.

00:08:42: auch lässt sich wenig abschätzen wie stark sich mögliche Verzögerungen wirtschaftlich auswirken werden.

00:08:47: Für deutsche Unternehmen dürfte deshalb zunächst etwas anderes Entscheidend sein, die heute verfügbaren Systeme weiter in ihre Geschäftsabläufe zu integrieren.

00:08:55: Denn während über das Tempo der nächsten KI-Generation gestritten wird ist das wirtschaftliche Potenzial der bestehenden Technik in vielen Betrieben noch längst nicht ausgeschöpft.