Können wir der KI vertrauen?

In Oberösterreich entsteht am Software Competence Center Hagenberg (SCCH) eine der ersten Zertifizierungsstellen für vertrauenswürdige und „riskante“ KI-Anwendungen. Unter welchen Bedingungen kann man einer KI vertrauen? Bei der Beantwortung dieser Frage geht es nicht etwa um das Abwenden einer Gefahr für die Menschheit – sondern um Systeme, die zuverlässig und vorurteilsfrei arbeiten.

Wir schreiben das Jahr 2029: Kurz nach ihrer Aktivierung löst die Künstliche Intelligenz „Skynet“ einen Atomkrieg aus und will danach die übrig gebliebene Menschheit auslöschen. Handlungen wie jene des 1984 erschienenen Sci-Fi-Klassikers „Terminator“ mit Arnold Schwarzenegger sind bis heute der Grund, warum viele Menschen besonders skeptisch gegenüber jeglicher KI-Technologie sind. „Ich werde oft mit solchen Ängsten konfrontiert. Egal ob Terminator, Matrix oder auch Raumschiff Enterprise – Hollywood hat immer schon gerne Szenarien von Maschinen gezeichnet, die intelligent sind und dann außer Kontrolle geraten“, sagt Sepp Hochreiter, der das Labor für Artificial Intelligence am Linz Institute of Technology leitet.

Hochreiter ist einer der führenden KI-Expert:innen weltweit, seine Expertise ist auch bei Big-Tech-Unternehmen wie Google oder Amazon gefragt. „Die Sorgen und Vorurteile vieler Menschen sind absolut unbegründet – da könnte ich genauso Angst haben, dass mein Bleistiftspitzer die Welt übernehmen wird“, sagt er. Die Ängste würden auf Missverständnissen beruhen. „Künstliche Intelligenzen haben keinen Überlebenswillen“, sagt Hochreiter. Während sich dieser bei Lebewesen durch die Evolution entwickelt hat, führen Künstliche Intelligenzen nur mathematische Formeln aus. Einer Software ist es egal, ob sie gelöscht wird oder nicht. „Das zweite Missverständnis ist, dass Künstliche Intelligenzen selbstständig in der Welt agieren könnten – davon sind wir noch sehr, sehr weit weg“, erklärt er. Zwar gibt es etwa in der Sprachverarbeitung bereits leistungsfähige Programme, die Texte interpretieren, schreiben oder sogar eigene Sprachen entwerfen können. „So ein System weiß aber nicht einmal, dass es so etwas wie eine echte Welt hinter diesen Wörtern gibt“, sagt Hochreiter.

Selbst für den unwahrscheinlichen Fall, dass in weiter Zukunft eine KI entwickelt werden würde, die sich selbst vervielfältige und einen Überlebenssinn habe, wäre das für die Menschheit nicht tragisch. „Eine KI braucht ganz andere Ressourcen als wir – wir brauchen etwa Sauerstoff und Wasser, für eine KI wäre Letzteres sogar schädlich“, erklärt Hochreiter. So eine KI würde sich vermutlich dorthin absetzen, wo die Bedingungen für Maschinen besser sind – in die Weiten des Weltraums. Für Hochreiter ist die geringe Aufklärung in der Bevölkerung zum Thema Künstliche Intelligenz problematisch. „In anderen Regionen wird neuer Technik viel stärker vertraut, dadurch kommt sie auch viel schneller zum Einsatz – das ist ein Standortvorteil“, sagt er.

KI-Zertifizierung ist kein Selbstzweck

Vertrauenswürdige KI ist laut Wirtschafts-Landesrat Markus Achleitner ein wichtiger Erfolgsfaktor für das Ziel Oberösterreichs, bis 2030 Modellregion für Human-Centered Artificial Intelligence zu werden. Was bedeutet dieser Begriff tatsächlich? „Eigentlich geht es darum, dass man ein zertifiziertes, wohl zu betreibendes KI-System hat, das den rechtlichen Rahmenbedingungen entspricht“, sagt Bernhard Nessler, Research Manager für Deep Learning und Certification am SCCH. Gemeinsam mit TÜV Austria und dem Machine Learning Institute der JKU in Linz wurde bereits eine Forschungskooperation gegründet. Erste Pilotzertifizierungsprojekte für TRUSTWorthy AI wurden bereits gemeinsam durchgeführt. „Bei einer zertifizierten KI kann ich darauf vertrauen, dass das System nach dem aktuellen Stand der Wissenschaft in Funktion und Zuverlässigkeit mit seiner Beschreibung übereinstimmt“, erklärt Nessler. Wie wird der Zertifizierungsprozess für Unternehmen funktionieren? „Nach einem Vorbereitungsgespräch werden in einem Auditmeeting umfassende Funktionstests und spezifische Analysen der eingesetzten AI-Modelle gefordert. Das Entwicklerteam muss einen Katalog von Fragen transparent und nachvollziehbar beantworten“, sagt Nessler. Um der rapiden Entwicklung speziell im Machine Learning gerecht zu werden, werden beim Audit ML- Wissenschaftler als aktive Kritiker eingebunden.

Ein Ausbau der Zertifizierungskompetenzen und Leistungsangebote rund um Vertrauenswürdige KI ist unter den bestehenden Partnern bereits abgesprochen. Nessler sieht in dieser Entwicklung eine gewaltige Chance für den Standort Oberösterreich über die Regionalgrenzen hinweg Wahrnehmung für die führende Rolle bei der Entwicklung von Zertifizierungssystemen zu schaffen. „Wenn man die Kompetenz besitzt, kritische Anwendungen zu zertifizieren, heißt das, dass man diese Kompetenz auch investieren kann, um Ausbildungen, Beratungen oder Entwicklungsarbeiten in der richtigen Weise voranzutreiben“, sagt Nessler. Er betont, dass der Zertifizierungsvorgang kein Selbstzweck ist. „Dadurch macht man auch jene, die KI-Applikationen entwickeln, fit für zuverlässige Lösungen. Die KI- Lösung selbst profitiert damit also an Qualität“, sagt er.

Die Zertifizierungsstelle für vertrauenswürdige KI ist eine gewaltige Chance für den Standort.

Bernhard Nessler Research Manager für Deep Learning und Certification, SCCH

Wie KI uns beeinflusst

Derzeit werden KI-Anwendungen weltweit noch unreguliert eingesetzt. In der EU soll sich das bis 2025 durch den „Artificial Intelligence Act“ ändern. In dem Entwurf der Kommission ist ein Stufensystem geplant, das KI-Anwendungen in unterschiedliche Risikoklassen einteilt. Für die Anwendung von einigen KI-Arten werden künftig Auflagen – wie etwa Zertifizierungen – nötig sein. „Besonders beschäftigt haben wir uns mit Themen wie der Wahrung der Privatsphäre, Datenregulierung, dem Überwachen von Menschen und dem Sicherstellen der menschlichen Würde“, sagt Sabine Theresia Köszegi, die bei der Erarbeitung der Empfehlungen zu „Trustworthy AI“ mitgewirkt hat und Vorsitzende des Rats für Robotik war. Für sie sind viele derzeitige Anwendungsfelder von KI problematisch. „Der Einfluss von KI auf unser Leben ist viel größer als von den meisten wahrgenommen – und dieser Einfluss ist bei Weitem nicht immer positiv“, sagt sie.

Problematisch können aus ihrer Sicht etwa KI-Systeme sein, die zur Entscheidungsunterstützung im Beruf eingesetzt werden. „Mitarbeiter:innen erleben ihre Rolle vermehrt als Vermittler:innen zwischen KI-Systemen und Kund:innen“, sagt sie und nennt als Beispiel den AMS-Algorithmus, der zur Ermittlung der Arbeitsmarktchancen für Arbeitslose eingesetzt werden soll. Sie werden dabei von der KI je nach Vermittelbarkeit in drei Klassen eingeteilt. „Wenn das System erst einmal eine Klassifizierung vorgenommen hat, wird die eigene – vielleicht sogar abweichende – Einschätzung nicht mehr ernst genommen“, sagt Köszegi.

Denn jedes KI-System ist nur so gut wie die Daten, mit denen es trainiert wird – und diese Daten seien manchmal vorurteilsbehaftet oder einseitig. „Es ist ein weit verbreiteter Irrtum, dass KI-Systeme objektiver sind als Menschen oder gar neutral“, sagt sie, „sie werden von Menschen entwickelt, die dabei ihre eigenen Wertvorstellungen und Vorstellungen von Problemen implementieren.“ Problematisch sei auch die Manipulation des Kaufverhaltens durch die KI in bestimmten Situationen. „Wenn Ihre Laufapp aufgrund Ihres erhöhten Pulses erkennt, dass Sie sich gerade verausgabt haben und vermutlich durstig sind und ihnen genau in diesem Moment eine Werbung für ein isotonisches Getränk sendet, wird ihre vulnerable Situation manipulativ ausgenützt. Solche Taktiken sollen verboten werden“, erklärt Köszegi. Ein anderes Beispiel sei die Gamingindustrie – wo Kinder durch KI-gesteuerte Werbung zu In-App-Käufen angeregt werden. Köszegi: „In diesen Bereichen braucht es Regulierung.“

Die Ängste vor Hollywood-KI-Horrorszenarien sind absolut unbegründet.

Sepp Hochreiter Leitung Labor für Artificial Intelligence am Linz Institute of Technology

Rechtliche Herausforderungen für Unternehmen

„Der Vorschlag der EU ist aus meiner Sicht ein wichtiger erster Impuls, der das Thema KI und die rechtlichen Aspekte stärker in den Fokus rücken wird“, sagt Axel Anderl, Managing Partner bei Dorda Rechtsanwälte. Die Kanzlei beschäftigt sich unter anderem intensiv mit den rechtlichen Herausforderungen der KI. „In der Praxis ist Künstliche Intelligenz längst in den Unternehmen angekommen, die Rechtsentwicklung hinkt hinterher“, erklärt Anderl. Die Technik entwickle sich schneller, als die Gesetzgeber derzeit darauf reagieren könnten. „Bis es einen einheitlichen Rechtsrahmen auf EU-Ebene gibt, wird es noch einige Jahre dauern. Der österreichische Gesetzgeber könnte aber schon jetzt agieren, um zu den Vorreitern zu gehören“, sagt Alexandra Ciarnau, Rechtsanwältin bei Dorda mit Spezialisierung auf IT-Recht.

Unternehmen, die Dorda konsultieren, wollen meist Beratung bei der Implementierung von neuer Software, ein generelles KI-Konzept erarbeiten – oder sich rechtlich absichern. Dabei gilt es einiges zu beachten. „Wenn es etwa darum geht, KI mit persönlichen Daten der Mitarbeiter:innen zu füttern, dann braucht es die Zustimmung des Betriebsrates“, sagt Ciarnau. Wie in solchen Fällen seitens der Mitarbeiter:innen reagiert wird, hänge ganz vom Mindset und der Unternehmenskultur ab. „Wenn die Geschäftsführung überfallsartig Forderungen stellt, kann es zu Schwierigkeiten kommen – mit genügend Aufklärungsarbeit können Ängste und Zweifel aber meist ausgeräumt werden“, erklärt Ciarnau. Für Unternehmen würde es Sinn machen, interne KI-Leitfäden zu entwickeln und genau zu definieren, wie man mit der Technologie umgehen will. „Erstens kann das Innovationen beschleunigen, zweitens können durch den offenen Umgang auch Menschen abgeholt werden, die der KI sehr emotional begegnen“, sagt Anderl.

Derzeit wird der Entwurf des AI-Acts in den EU-Mitgliedstaaten diskutiert. „Es gibt einen Abstimmungsprozess, bei dem Änderungen für den endgültigen Regulierungsvorschlag aufgegriffen werden“, sagt Köszegi. Viele KI-Expert:innen sehen den AI-Act jedoch kritisch. „Schief gelaufen ist, dass es nicht um die eingesetzte Methode gehen sollte, sondern darum, was eigentlich gemacht wird“, sagt Hochreiter. Verleitende Werbung für In-App-Käufe etwa sei auch ohne den Einsatz von KI problematisch. „Wenn ich für fragwürdige Geschäftspraktiken statt einer KI Statistiken hernehme, macht das den Vorgang nicht besser“, sagt er. Eine KI-gesteuerte Rakete sei gefährlich – eine Rakete ohne KI-Einsatz aber ebenso. Wie bei jeder Technologie komme es also auf den konkreten Anwendungsfall an. „Ich sehe den EU-AI-Act sehr kritisch, weil ich befürchte, dass sich die großen Datenkraken ähnlich wie bei der DSGVO absichern, indem sie sich die Zustimmung der Endverbraucher:innen holen“, sagt Nessler._

Wir werden durch KI manipuliert – eine Regulierung ist notwendig.

Sabine Theresia Köszegi KI-Ethikerin, TU Wien

Die weitverbreitetsten KI-Irrtümer

  • 1 KI können einen eigenen Willen entwickeln

Künstliche Intelligenzen sind mehr oder weniger komplexe Programme, die mathematische Formeln umsetzen. Softwareprogramme können keinen eigenen Überlebenswillen oder ein Bewusstsein entwickeln – zumindest sind solche Entwicklungen noch viele Jahrzehnte entfernt.

  • 2 Die künstliche Intelligenz ähnelt der menschlichen Intelligenz

Mächtige KI-Sprachverarbeitungs- und Erkennungsprogramme sind in der Lage, mit Menschen zu kommunizieren, komplexe sprachliche Zusammenhänge zu erkennen und sogar Witze zu erklären. „Auch wenn man denkt, dass diese Systeme schon wahnsinnig intelligent sind, darf man nicht vergessen, dass eine Maschine nicht einmal weiß, dass es hinter den Wörtern überhaupt eine echte Welt gibt. Wörter sind für sie nur Zeichenketten, mit denen sie arbeiten“, sagt Hochreiter.

  • 3 Eine KI ist neutral und objektiv

Jede KI ist nur so gut wie die Daten, mit der sie arbeitet. Genau diese Daten wurden von aber von Menschen erfasst und bearbeitet – dadurch fließen oft menschliche Vorurteile Wertvorstellungen mit ein. Die KI übernimmt diese.

  • 4 Der Einfluss von KI auf unser Leben ist noch relativ gering

Das Gegenteil der Fall. Welcher Newsfeed uns auf sozialen Medien angezeigt wird, welche Produkte beim Onlineshopping empfohlen werden, welche Ergebnisse Suchanfragen liefern – all diese Dinge sind längst KI-gesteuert.

#Ähnliche Artikel

Technologischer Meilenstein für Zeitungsverlage

Die beiden oberösterreichischen Forschungseinrichtungen Software Competence Center Hagenberg GmbH (SCCH) und RISC Software GmbH haben gemeinsam mit dem Tech-Unternehmen Newsadoo große Fortschritte im Rahmen eines Forschungsprojekts erzielt. Dadurch wird es Verlagen ermöglicht, in digitalen Kanälen datenbasiert zu arbeiten und neue Funktionen und Monetarisierungsmodelle inhouse zu entwickeln. Das große Ziel von Newsadoo liegt darin, die Vielfalt und Unabhängigkeit der europäischen Medienlandschaft zu erhalten und sie bei der Digitalisierung und Monetarisierung ihres Contents durch datenbasierte Technologien zu unterstützen.

PR

Kreativer Brückenbau zwischen den Branchen

Kreativität ist das Fundament für alle Innovationen. Sie gilt als Reaktion auf die gestiegene Nachfrage nach nicht-routinemäßigen, zwischenmenschlichen und analytischen Fähigkeiten als eine der vier wichtigsten Kernkompetenzen des 21. Jahrhunderts. Die Creative Region Linz & Upper Austria mit Sitz in der Tabakfabrik Linz fordert und fördert Kreativität in der oberösterreichischen Wirtschaft und inspiriert, initiiert und vernetzt seit über zehn Jahren Ideen, Menschen und Unternehmen sowohl aus der Kreativwirtschaft als auch aus anderen Branchen.

Der Siegeszug der KI

Auch wenn die Digitalisierung langsamer voranschreitet als in den USA und Asien: In der heimischen Wirtschaft kommt KI immer öfter zum Einsatz. Weil sich industrieübergreifende Trends global meist schnell durchsetzen, ist Künstliche Intelligenz besonders in großen Unternehmen bereits alltäglich. Meist wird sie zur Steigerung der Effizienz eingesetzt – aber auch in anderen Anwendungsbereichen gibt es gewaltiges Potential.

„Eine Maschine kann nie so empathisch sein wie ein Mensch“

Wie verändert Künstliche Intelligenz unseren Arbeitsalltag? Und wie bereitet man sich am besten als Arbeitgeber:in oder Arbeitnehmer:in auf die bevorstehenden Veränderungen vor? Diese und viele weitere Fragen werden am Kongress „Powercouple: Mensch & Maschine“ der ARS Akademie am 14. September behandelt.

Wie drei Gründer den Tourismus neu denken

Einen Businessplan gab es bei der Gründung von Incert eTourismus im Jahr 2007 nicht. Dafür waren die Zwillingsbrüder Günther und Peter Praher sowie Gerhard Lengauer fest davon überzeugt, mit ihrem eigenen E-Commerce-System einen wertvollen Beitrag für die Tourismusbranche leisten zu können. Fünfzehn Jahre später sind sie Marktführer im Bereich „Schenken“ im Gutscheinhandling und stellen mit ihren digitalen Lösungen tagtäglich ihre Kreativität und Innovationskraft unter Beweis. Sie wollen damit die Art und Weise des digitalen Verkaufs und der Gästebindung im Tourismus neu denken.

Gestatten, hier operiert der Robo-Doc!

Gesteuert mittels einer Konsole sind weltweit immer mehr Roboter bei Operationen im Einsatz. Ein Linzer Topchirurg hat mit dem Robo-Doc schon 100 Mal zusammengearbeitet und erklärt uns die Vorteile.

Willkommen in der Schule von morgen

Schulschließungen, Distance-Learning oder Präsenzunterricht mit Maske – unser Bildungssystem hat während der Pandemie verschiedenste Stadien durchlaufen. Wie sieht das Klassenzimmer der Zukunft aus und was kann man aus der Krise mitnehmen? Wir haben bei einer Schülerin, einer Lehrerin bis hin zum Unidirektor nachgefragt, wo die Reise im Bildungssystem hingeht.

„Wir verstehen die Digitalisierung breiter …"

… und deshalb haben wir in Oberösterreich die Chance, Großes zu schaffen“, sagt Oberösterreichs Landeshauptmann Thomas Stelzer. Die neue Technische Universität in Linz soll zu diesem Schaffen einiges beitragen. Wie man Studierende anlocken möchte und international Aufmerksamkeit erregen will, erzählt er uns im – passenderweise – virtuellen Interview.

Wie man den Daten- und Geheimnisschutz elegant meistert

Auf der Welle der steigenden Datenflut zu surfen ist eine Kunst. Oder doch nur eine Frage der Vorbereitung? Für Ronald Kopecky steht jedenfalls fest: „Datenschutz ist kein reines IT-Thema.“ Mit seinem Unternehmen [Komdat](https://www.komdat.at/) setzt er sich daher für ganzheitliche Lösungen ein, die den Umgang mit Daten nicht nur sicherer machen, sondern auch interne Prozesse effizienter gestalten.

Wie ein „digitaler Bodyguard“ Hackern den Kampf ansagt

Auswandern. Einfach raus. Am besten in eine kleine, beschauliche Blockhütte irgendwo am Rande dieser Welt. Ohne Strom und ganz gewiss ohne Smartphone, Computer, Tablet und andere „digitale Risikofaktoren“. Achtung! Dieses Verlangen kann ein Gespräch mit Jürgen Weiss durchaus auslösen. Gemeinsam mit seinem Team sagt der sonst so sympathische Oberösterreicher Hackerangriffen und anderen Schattenseiten der Digitalisierung den Kampf an.

Digitale Sicherheit: Vertrauen ist gut, Kontrolle ist besser

Die Sonnenseiten der Digitalisierung? Liegen auf der Hand. Doch wo Licht ist, rechnet man besser auch mit Schatten. Die „dunkle Seite“ der Digitalisierung lauert dabei längst nicht mehr nur im Darknet. Probleme beim Datenschutz, Hackerangriffe sowie Cryptocrime und andere Gefahren tauchen in alltäglichen digitalen Gewässern immer häufiger auf. Gemeinsam mit den positiven Seiten des Wandels wachsen auch sie. Sie verändern sich. Werden raffinierter und bedrohlicher.

Mittelstand am Sprung zur Künstlichen Intelligenz

Zwei visionäre Praktiker sind davon überzeugt, dass die österreichischen Betriebe zum Großteil im Zeitalter der Digitalisierung angekommen sind. Im nächsten Schritt gehe es um die Optimierung der digitalen Strukturen durch Künstliche Intelligenz, sind sich der Softwareentwickler und der Maschinenbauer einig.

In diesem Pflegeheim übernimmt Roboter Pepper

Er misst gerade einmal 120 Zentimeter, ist aber trotzdem der große Star. Die Rede ist von Roboter Pepper, der sich im Altenheim in Wolfern um die Bewohner:innen kümmerte. Und zwar so gut, dass nun ein weiteres Modell des digitalen Mitarbeiters bestellt wurde.

Wie leicht geht Digitalisierung?

Mit ihren simplen und smarten Lösungen bietet die in Graz ansässige Marke [Digital2Go](https://digital-2-go.com/) Digitalisierungsschritte für KMU. Im Portfolio finden sich Produkte, die auch Unternehmen wie Zalando und L’Oréal ihren Prozessen täglich unterstützen. Das Motto dabei: „Weil Digitalisierung auch einfach geht.“ Oliver Lehner, Vice President BU Partner & Products, spricht im Interview über entscheidende Skills im digitalen Zeitalter, spannende Innovationen und den Mehrwert smarter Lösungen.

Revolution am Energiemarkt

Mit Gridpulse eine nachhaltige Sensorentechnik zur Marktreife zu bringen, so lautete das Ziel und die Aufgabe von BDO Austria und der Knill Gruppe. Wie es ihnen gelungen ist? Durch eine Partnerschaft auf Augenhöhe, den Mut, nahe am Markt zu arbeiten, und nicht zuletzt Dank eines ebenso kompetenten wie neugierigen Teams.

„Die digitale Zukunft wird vor allem intelligent“

Einfach nur Digitalisierung war gestern. Am Software Competence Center Hagenberg zählt die Arbeit am nächsten Level der digitalen Transformation zu den täglichen Aufgaben. CEO Markus Manz und Lukas Fischer, Research Manager Data Science, nehmen uns mit auf eine Reise in die digitale Zukunft Österreichs.