AI News

Der 1. August 2024 markiert einen historischen Meilenstein in der Regulierung von Künstlicher Intelligenz (KI). An diesem Tag trat das weltweit erste KI-Gesetz in der Europäischen Union in Kraft. Die Mitgliedstaaten haben nun bis August 2025 Zeit, nationale Behörden zu benennen, die die Einhaltung der neuen Vorschriften ab August 2026 überwachen werden. Doch was bedeutet dieses 144 Seiten umfassende Gesetz konkret für Entwickler und Nutzer von KI-Systemen? Verbotene Anwendungen: Höchste Risikostufe Informatikprofessor Holger Hermanns von der Universität des Saarlandes und seine Kollegen haben einen Leitfaden erstellt, um mehr Klarheit über die Auswirkungen des neuen Gesetzes zu schaffen. Die zentrale Botschaft lautet: Je riskanter ein KI-System ist, desto strenger sind die Anforderungen. Das KI-Gesetz teilt die verschiedenen Anwendungen in vier Risikogruppen ein. Systeme mit „unannehmbarem Risiko“ werden ohne Übergangsfrist sofort verboten. Dazu gehören Anwendungen, die Grundrechte bedrohen, wie etwa Systeme zur sozialen Bewertung durch Regierungen, emotionale Auswertungen am Arbeitsplatz oder Gesichtserkennung an öffentlichen Orten. Diese Technologien, die beispielsweise in China verbreitet sind, wurden in der EU schon vor dem Verbot nur in begrenztem Umfang getestet. Strenge Auflagen für Hochrisiko-KI Die nächste Kategorie umfasst Anwendungen mit „hohem Risiko“, die in kritischen Bereichen wie Infrastruktur, Gesundheit oder Justiz eingesetzt werden. Auch Kreditscoring-Systeme und Bewerbungssoftware, die Vorentscheidungen für Personaler treffen, fallen in diese Kategorie. Fehler in diesen Systemen können Existenzen und Leben gefährden. Daher müssen Entwickler strenge Vorgaben einhalten. Professor Hermanns erklärt, dass die Trainingsdaten solcher KI-Systeme so gestaltet sein müssen, dass die KI ihre Aufgaben zuverlässig erfüllt. Beispielsweise soll eine Bewerbungssoftware keine Gruppe von Bewerbern diskriminieren, weil diese in den Trainingsdaten unterrepräsentiert ist. Zudem muss das System protokollieren, was zu welchem Zeitpunkt passiert – ähnlich wie eine Black Box im Flugzeug – um maximale Transparenz zu gewährleisten. Die Funktionsweise des Systems muss außerdem dokumentiert werden, sodass Betreiber Fehler eigenständig erkennen und beheben können. Transparenz für Endnutzer: Geringeres Risiko Laut Schätzungen der Europäischen Kommission bewegen sich die meisten KI-Anwendungen jedoch auf geringeren Risiko-Stufen. Dazu gehören beispielsweise Chatbots wie ChatGPT. Hier müssen Programmierer künftig vor allem auf mehr Transparenz gegenüber den Endnutzern achten. Nutzer müssen klar erkennen können, dass sie mit einer Maschine interagieren. Auch KI-generierte Inhalte wie Deep Fakes müssen eindeutig als solche gekennzeichnet werden. Wie genau dies zu geschehen hat, ist jedoch noch nicht festgelegt. Minimales Risiko: Narrenfreiheit für Entwickler Für KI-Anwendungen mit „minimalem Risiko“ wie lernfähige Spam-Filter oder automatisch generierte Reaktionen von Videospielcharakteren entstehen durch das neue Gesetz keinerlei zusätzliche Verpflichtungen. Entwickler können jedoch freiwillig einen internen Verhaltenskodex verabschieden. Ein Fazit: Regulierung als Wettbewerbsvorteil? Sarah Sterz, Kollegin von Professor Hermanns, zieht ein positives Fazit: „Entwickler und Nutzer werden unterm Strich nicht wirklich viel Veränderung spüren.“ Die Befürchtung, dass europäische Tech-Unternehmen durch die stärkere Regulierung im internationalen Wettbewerb zurückfallen könnten, hält sie für unbegründet. Im Gegenteil könnte der AI Act der europäischen KI sogar zum Vorteil gereichen, indem er ihr eine Art Gütesiegel für Sicherheit und Transparenz verleiht. „Der AI Act ist ein Versuch, KI auf vernünftige Weise zu regulieren, und das ist nach unserem Dafürhalten gut gelungen“, betont Hermanns. Das neue KI-Gesetz stellt einen wichtigen Schritt in der Entwicklung und Nutzung von Künstlicher Intelligenz dar. Es setzt klare Grenzen für riskante Anwendungen und fördert gleichzeitig Transparenz und Sicherheit. Ob es tatsächlich zu einem Wettbewerbsvorteil für europäische Unternehmen führt, wird die Zukunft zeigen. Eines ist jedoch sicher: Die Regulierung von KI ist ein notwendiger Schritt, um die Technologie verantwortungsvoll und ethisch vertretbar zu gestalten. Abonnieren Sie unseren Newsletter, um aktuelle Informationen und Einblicke direkt in Ihr Postfach zu erhalten. Bei weiteren Fragen oder Anliegen können sie uns unter unserem Kontaktformular kontaktieren. Quelle: https://www.wissen.de/kuenstliche-intelligenz-was-das-neue-ki-gesetz-der-praxis-bedeutet

Die Bundesregierung verzeichnet einen beispiellosen Anstieg an KI-Projekten in ihren Ministerien. Während die Technologie zunehmend Einzug hält, gehen die Meinungen über ihre Umsetzung und Effizienz auseinander. Die Nutzung von künstlicher Intelligenz in den Bundesministerien hat sich innerhalb eines Jahres verdoppelt. Derzeit gibt es 212 aktive KI-Projekte und Anwendungen innerhalb der Regierung. Diese Zahl geht aus einer parlamentarischen Anfrage der Digitalpolitikerin Anke Domscheit-Berg (Linke) hervor. Besonders hervorzuheben sind dabei das Bundeswirtschafts- und Klimaministerium sowie das Bundesinnenministerium, die mit 44 bzw. 40 Projekten die Spitze der KI-Anwendungen anführen. Das Bundeswirtschafts- und Klimaministerium von Vizekanzler Robert Habeck (Grüne) nutzt KI für eine Vielzahl von Anwendungen. Dazu gehören Textanalysen und Transkriptionen sowie spezialisierte Aufgaben wie die Gesteinsuntersuchung und die Analyse von Bodenprofilfotos innerhalb der Bundesanstalt für Geowissenschaften. Im Bundesinnenministerium unter Nancy Faeser (SPD) findet KI vor allem bei der Auswertung von Videodaten und der Gefahrenabwehr an Bahnhöfen Anwendung. Das Bundeskriminalamt experimentiert zudem mit KI im Bereich der Gesichts- und Fingerabdruckerkennung. Auch das Bundesministerium für Ernährung und Landwirtschaft sowie das Bundesverkehrs- und Digitalministerium setzen vermehrt auf KI. Während erstgenanntes Ministerium KI zur Erkennung und Bekämpfung von Waldbränden nutzt, setzt der Deutsche Wetterdienst im Verkehrsministerium KI ein, um Klimamodelle zu verbessern und präzisere Unwetter- und Klimavorhersagen zu erstellen. Geheimhaltung bei Verteidigung und Geheimdiensten Keine Angaben machte die Bundesregierung hingegen zur Nutzung von KI innerhalb des Verteidigungsministeriums und der Geheimdienste. Bekannt ist jedoch, dass im Bundesetat 2023 rund 16 Millionen Euro für KI-Projekte der Bundeswehr vorgesehen waren. Die Streitkräfte verfügen zudem über ein eigenes Labor für KI. Die Details zur Nutzung von KI innerhalb der Geheimdienste, wie dem Bundesnachrichtendienst (BND), dem Militärischen Abschirmdienst (MAD) und dem Bundesamt für Verfassungsschutz (BfV), bleiben jedoch aus Gründen des Staatswohls geheim. Anke Domscheit-Berg kritisierte die Bundesregierung scharf. Sie bemängelte, dass die Ampelkoalition keine klare Umsetzungsstrategie für den Einsatz von KI habe. Es fehle an Vorgaben für Standards und Prozesse zur Risikobewertung, zu Kosten-Nutzen-Verhältnissen und zur Nachhaltigkeit. Auch beim Ausbau von Unterstützungsstrukturen und Beratungszentren sei die Bundesregierung nicht ausreichend vorangekommen. Die rasante Zunahme der KI-Projekte in den Bundesministerien zeigt, dass die Technologie in der öffentlichen Verwaltung angekommen ist. Doch mit der zunehmenden Nutzung von KI wächst auch der Bedarf an klaren Strategien und Regularien, um die Technologie effektiv und verantwortungsvoll einzusetzen. Die Bundesregierung steht vor der Herausforderung, nicht nur die technischen Möglichkeiten von KI auszuschöpfen, sondern auch ethische und gesellschaftliche Fragen zu berücksichtigen. Abonnieren Sie unseren Newsletter, um aktuelle Informationen und Einblicke direkt in Ihr Postfach zu erhalten. Bei weiteren Fragen oder Anliegen können sie uns unter unserem Kontaktformular kontaktieren. Quelle: https://www.zeit.de/digital/2024-07/bundesregierung-ministerien-einsatz-ki-gruene-spd

Im modernen Diskurs über die Auswirkungen der Künstlichen Intelligenz auf die Arbeitswelt hat die Münchner Runde ein bemerkenswertes Experiment gewagt. Ein Avatar, basierend auf dem Sprachmodell ChatGPT, wurde als Talkgast eingeladen, um die Rolle der KI in unserer Gesellschaft zu beleuchten. Dieses innovative Format warf spannende Fragen auf und lieferte zugleich faszinierende Einblicke in die Potenziale und Herausforderungen der KI. Der Avatar als Gesprächspartner In einer Runde, die üblicherweise von menschlichen Experten dominiert wird, stach der Avatar deutlich hervor. Moderator Christian Nitsche eröffnete die Diskussion mit einer provokanten Frage an den Avatar: „Sollten wir vor dir Angst haben?“ Die Antwort des Avatars war besonnen und beruhigend: „Nein, Ängste sind unbegründet. KI ist ein Werkzeug, wie ein Hammer, der Nägel einschlägt. Es hängt vom Benutzer ab.“ Diese Interaktion verdeutlichte die grundlegende Natur der KI – sie ist ein Instrument, das von Menschen gesteuert und genutzt wird. Die technischen Herausforderungen wurden schnell offensichtlich. Fragen mussten zunächst aufgenommen und verschriftlicht werden, bevor sie an ChatGPT gesendet wurden. Nach der Auswertung riesiger Datenmengen wurde die Antwort in Sprache umgewandelt und vom Avatar präsentiert. Dieser Prozess zeigte die aktuellen Grenzen der KI im direkten menschlichen Dialog. KI für bessere Wettbewerbsfähigkeit Christiane Benner, Vorsitzende der IG Metall, betonte in der Münchner Runde sowohl die Risiken als auch die Chancen, die mit dem Einsatz von KI einhergehen. Sie hob hervor, dass KI ein enormes Potenzial habe, Unternehmen wettbewerbsfähiger zu machen, insbesondere in Zeiten wirtschaftlicher Unsicherheiten. „Gerade in der aktuell schwierigen wirtschaftlichen Situation müsse KI so eingesetzt werden, dass Unternehmen sich neu aufstellen und ihre Mitarbeiter entlastet werden könnten“, erklärte Benner. Ein zentrales Thema war der Fachkräftemangel, der sich in den kommenden Jahren verschärfen dürfte, wenn die Babyboomer in den Ruhestand gehen. KI könnte hier eine Schlüsselrolle spielen, indem sie Arbeitsprozesse optimiert und effizienter gestaltet. Rechnerisch kein Verlust von Arbeitsplätzen Der Arbeitswelt-Bericht 2023 des Rats der Arbeitswelt prognostiziert, dass in den nächsten 15 Jahren 3,6 Millionen Arbeitsplätze durch die Digitalisierung wegfallen könnten. Gleichzeitig wird jedoch erwartet, dass ebenso viele neue Arbeitsplätze entstehen werden. Diese Erkenntnis deutet darauf hin, dass der Arbeitsmarkt sich nicht verkleinert, sondern transformiert. Die Medizinethikerin Alena Buyx, bis April 2024 Vorsitzende des Deutschen Ethikrates, betonte, dass KI dazu genutzt werden sollte, langweilige, anstrengende und gefährliche Aufgaben zu übernehmen. Diese Perspektive unterstreicht die potenziell positive Rolle der KI in der Arbeitswelt. Trotz der optimistischen Prognosen bleibt die Sorge um den Verlust von Arbeitsplätzen durch KI bestehen. Gewerkschaftschefin Benner äußerte sich besorgt darüber, dass in einigen Unternehmen bereits Arbeitsplätze durch KI ersetzt werden. Ihrer Meinung nach ist es entscheidend, dass Menschen, deren Jobs bedroht sind, frühzeitig weitergebildet werden. „Als Gewerkschaft ist uns wichtig: Wie kann ich Menschen auf ein anderes Qualifikationslevel bringen, durch eine Weiterbildung, durch noch ein Studium?“ sagte Benner. Die Notwendigkeit von Weiterqualifikation und Umschulung ist ein zentrales Thema in der Diskussion über die Zukunft der Arbeit. Durch gezielte Bildungsmaßnahmen können Arbeitnehmer auf die veränderten Anforderungen des Arbeitsmarktes vorbereitet werden. Ein weiteres wichtiges Thema war die Frage, wie gut Unternehmen in Deutschland auf den Wandel durch KI vorbereitet sind. Benner äußerte Bedenken, dass insbesondere kleinere Unternehmen Gefahr laufen, abgehängt zu werden. „Worüber wir uns Sorgen machen, ist, dass bestimmte Unternehmen abgehängt werden oder abgehängt sind, gerade kleinere Unternehmen. Das sind Themen, da müssen wir einen besseren Transfer machen. Wir lassen gerade in Deutschland viele Chancen liegen“, sagte sie. Hier zeigt sich die Notwendigkeit eines besseren Wissens- und Technologietransfers, um sicherzustellen, dass alle Unternehmen – unabhängig von ihrer Größe – die Vorteile der KI nutzen können. Die Ethikerin Buyx betonte die Bedeutung von Transparenz und klaren gesetzlichen Regulierungen im Umgang mit KI. Es sei wichtig offenzulegen, anhand welcher Daten KI trainiert wird und wie Entscheidungen oder Empfehlungen zustande kommen. Diese Transparenz ist entscheidend, um das Vertrauen der Öffentlichkeit in KI-Systeme zu stärken. Ein Beispiel für die Grenzen der aktuellen KI-Modelle zeigte sich, als der Avatar das Ergebnis eines Fußballspiels falsch vorhersagte. Dies verdeutlicht, dass die Qualität der KI-Antworten stark von den zugrunde liegenden Daten abhängt. Das Experiment der Münchner Runde, einen Avatar als Talkgast einzuladen, hat spannende Einblicke in die Potenziale und Herausforderungen der KI geliefert. Während die Technologie beeindruckende Fortschritte gemacht hat, bleiben Fragen zur praktischen Anwendung und den gesellschaftlichen Auswirkungen bestehen. Die Diskussion zeigte deutlich, dass KI als Werkzeug genutzt werden kann, um die Wettbewerbsfähigkeit zu steigern und den Fachkräftemangel zu bekämpfen. Gleichzeitig müssen jedoch Maßnahmen ergriffen werden, um die Arbeitnehmer auf die Veränderungen vorzubereiten und sicherzustellen, dass niemand zurückgelassen wird. Abonnieren Sie unseren Newsletter, um aktuelle Informationen und Einblicke direkt in Ihr Postfach zu erhalten. Bei weiteren Fragen oder Anliegen können sie uns unter unserem Kontaktformular kontaktieren. Quelle: https://www.br.de/nachrichten/deutschland-welt/avatar-als-talkgast-so-lief-das-experiment-der-muenchner-runde,UGA1drA