Können wir der KI vertrauen?

In Oberösterreich entsteht am Software Competence Center Hagenberg (SCCH) eine der ersten Zertifizierungsstellen für vertrauenswürdige und „riskante“ KI-Anwendungen. Unter welchen Bedingungen kann man einer KI vertrauen? Bei der Beantwortung dieser Frage geht es nicht etwa um das Abwenden einer Gefahr für die Menschheit – sondern um Systeme, die zuverlässig und vorurteilsfrei arbeiten.

Wir schreiben das Jahr 2029: Kurz nach ihrer Aktivierung löst die Künstliche Intelligenz „Skynet“ einen Atomkrieg aus und will danach die übrig gebliebene Menschheit auslöschen. Handlungen wie jene des 1984 erschienenen Sci-Fi-Klassikers „Terminator“ mit Arnold Schwarzenegger sind bis heute der Grund, warum viele Menschen besonders skeptisch gegenüber jeglicher KI-Technologie sind. „Ich werde oft mit solchen Ängsten konfrontiert. Egal ob Terminator, Matrix oder auch Raumschiff Enterprise – Hollywood hat immer schon gerne Szenarien von Maschinen gezeichnet, die intelligent sind und dann außer Kontrolle geraten“, sagt Sepp Hochreiter, der das Labor für Artificial Intelligence am Linz Institute of Technology leitet.

Hochreiter ist einer der führenden KI-Expert:innen weltweit, seine Expertise ist auch bei Big-Tech-Unternehmen wie Google oder Amazon gefragt. „Die Sorgen und Vorurteile vieler Menschen sind absolut unbegründet – da könnte ich genauso Angst haben, dass mein Bleistiftspitzer die Welt übernehmen wird“, sagt er. Die Ängste würden auf Missverständnissen beruhen. „Künstliche Intelligenzen haben keinen Überlebenswillen“, sagt Hochreiter. Während sich dieser bei Lebewesen durch die Evolution entwickelt hat, führen Künstliche Intelligenzen nur mathematische Formeln aus. Einer Software ist es egal, ob sie gelöscht wird oder nicht. „Das zweite Missverständnis ist, dass Künstliche Intelligenzen selbstständig in der Welt agieren könnten – davon sind wir noch sehr, sehr weit weg“, erklärt er. Zwar gibt es etwa in der Sprachverarbeitung bereits leistungsfähige Programme, die Texte interpretieren, schreiben oder sogar eigene Sprachen entwerfen können. „So ein System weiß aber nicht einmal, dass es so etwas wie eine echte Welt hinter diesen Wörtern gibt“, sagt Hochreiter.

Selbst für den unwahrscheinlichen Fall, dass in weiter Zukunft eine KI entwickelt werden würde, die sich selbst vervielfältige und einen Überlebenssinn habe, wäre das für die Menschheit nicht tragisch. „Eine KI braucht ganz andere Ressourcen als wir – wir brauchen etwa Sauerstoff und Wasser, für eine KI wäre Letzteres sogar schädlich“, erklärt Hochreiter. So eine KI würde sich vermutlich dorthin absetzen, wo die Bedingungen für Maschinen besser sind – in die Weiten des Weltraums. Für Hochreiter ist die geringe Aufklärung in der Bevölkerung zum Thema Künstliche Intelligenz problematisch. „In anderen Regionen wird neuer Technik viel stärker vertraut, dadurch kommt sie auch viel schneller zum Einsatz – das ist ein Standortvorteil“, sagt er.

KI-Zertifizierung ist kein Selbstzweck

Vertrauenswürdige KI ist laut Wirtschafts-Landesrat Markus Achleitner ein wichtiger Erfolgsfaktor für das Ziel Oberösterreichs, bis 2030 Modellregion für Human-Centered Artificial Intelligence zu werden. Was bedeutet dieser Begriff tatsächlich? „Eigentlich geht es darum, dass man ein zertifiziertes, wohl zu betreibendes KI-System hat, das den rechtlichen Rahmenbedingungen entspricht“, sagt Bernhard Nessler, Research Manager für Deep Learning und Certification am SCCH. Gemeinsam mit TÜV Austria und dem Machine Learning Institute der JKU in Linz wurde bereits eine Forschungskooperation gegründet. Erste Pilotzertifizierungsprojekte für TRUSTWorthy AI wurden bereits gemeinsam durchgeführt. „Bei einer zertifizierten KI kann ich darauf vertrauen, dass das System nach dem aktuellen Stand der Wissenschaft in Funktion und Zuverlässigkeit mit seiner Beschreibung übereinstimmt“, erklärt Nessler. Wie wird der Zertifizierungsprozess für Unternehmen funktionieren? „Nach einem Vorbereitungsgespräch werden in einem Auditmeeting umfassende Funktionstests und spezifische Analysen der eingesetzten AI-Modelle gefordert. Das Entwicklerteam muss einen Katalog von Fragen transparent und nachvollziehbar beantworten“, sagt Nessler. Um der rapiden Entwicklung speziell im Machine Learning gerecht zu werden, werden beim Audit ML- Wissenschaftler als aktive Kritiker eingebunden.

Ein Ausbau der Zertifizierungskompetenzen und Leistungsangebote rund um Vertrauenswürdige KI ist unter den bestehenden Partnern bereits abgesprochen. Nessler sieht in dieser Entwicklung eine gewaltige Chance für den Standort Oberösterreich über die Regionalgrenzen hinweg Wahrnehmung für die führende Rolle bei der Entwicklung von Zertifizierungssystemen zu schaffen. „Wenn man die Kompetenz besitzt, kritische Anwendungen zu zertifizieren, heißt das, dass man diese Kompetenz auch investieren kann, um Ausbildungen, Beratungen oder Entwicklungsarbeiten in der richtigen Weise voranzutreiben“, sagt Nessler. Er betont, dass der Zertifizierungsvorgang kein Selbstzweck ist. „Dadurch macht man auch jene, die KI-Applikationen entwickeln, fit für zuverlässige Lösungen. Die KI- Lösung selbst profitiert damit also an Qualität“, sagt er.

Die Zertifizierungsstelle für vertrauenswürdige KI ist eine gewaltige Chance für den Standort.

Bernhard Nessler Research Manager für Deep Learning und Certification, SCCH

Wie KI uns beeinflusst

Derzeit werden KI-Anwendungen weltweit noch unreguliert eingesetzt. In der EU soll sich das bis 2025 durch den „Artificial Intelligence Act“ ändern. In dem Entwurf der Kommission ist ein Stufensystem geplant, das KI-Anwendungen in unterschiedliche Risikoklassen einteilt. Für die Anwendung von einigen KI-Arten werden künftig Auflagen – wie etwa Zertifizierungen – nötig sein. „Besonders beschäftigt haben wir uns mit Themen wie der Wahrung der Privatsphäre, Datenregulierung, dem Überwachen von Menschen und dem Sicherstellen der menschlichen Würde“, sagt Sabine Theresia Köszegi, die bei der Erarbeitung der Empfehlungen zu „Trustworthy AI“ mitgewirkt hat und Vorsitzende des Rats für Robotik war. Für sie sind viele derzeitige Anwendungsfelder von KI problematisch. „Der Einfluss von KI auf unser Leben ist viel größer als von den meisten wahrgenommen – und dieser Einfluss ist bei Weitem nicht immer positiv“, sagt sie.

Problematisch können aus ihrer Sicht etwa KI-Systeme sein, die zur Entscheidungsunterstützung im Beruf eingesetzt werden. „Mitarbeiter:innen erleben ihre Rolle vermehrt als Vermittler:innen zwischen KI-Systemen und Kund:innen“, sagt sie und nennt als Beispiel den AMS-Algorithmus, der zur Ermittlung der Arbeitsmarktchancen für Arbeitslose eingesetzt werden soll. Sie werden dabei von der KI je nach Vermittelbarkeit in drei Klassen eingeteilt. „Wenn das System erst einmal eine Klassifizierung vorgenommen hat, wird die eigene – vielleicht sogar abweichende – Einschätzung nicht mehr ernst genommen“, sagt Köszegi.

Denn jedes KI-System ist nur so gut wie die Daten, mit denen es trainiert wird – und diese Daten seien manchmal vorurteilsbehaftet oder einseitig. „Es ist ein weit verbreiteter Irrtum, dass KI-Systeme objektiver sind als Menschen oder gar neutral“, sagt sie, „sie werden von Menschen entwickelt, die dabei ihre eigenen Wertvorstellungen und Vorstellungen von Problemen implementieren.“ Problematisch sei auch die Manipulation des Kaufverhaltens durch die KI in bestimmten Situationen. „Wenn Ihre Laufapp aufgrund Ihres erhöhten Pulses erkennt, dass Sie sich gerade verausgabt haben und vermutlich durstig sind und ihnen genau in diesem Moment eine Werbung für ein isotonisches Getränk sendet, wird ihre vulnerable Situation manipulativ ausgenützt. Solche Taktiken sollen verboten werden“, erklärt Köszegi. Ein anderes Beispiel sei die Gamingindustrie – wo Kinder durch KI-gesteuerte Werbung zu In-App-Käufen angeregt werden. Köszegi: „In diesen Bereichen braucht es Regulierung.“

Die Ängste vor Hollywood-KI-Horrorszenarien sind absolut unbegründet.

Sepp Hochreiter Leitung Labor für Artificial Intelligence am Linz Institute of Technology

Rechtliche Herausforderungen für Unternehmen

„Der Vorschlag der EU ist aus meiner Sicht ein wichtiger erster Impuls, der das Thema KI und die rechtlichen Aspekte stärker in den Fokus rücken wird“, sagt Axel Anderl, Managing Partner bei Dorda Rechtsanwälte. Die Kanzlei beschäftigt sich unter anderem intensiv mit den rechtlichen Herausforderungen der KI. „In der Praxis ist Künstliche Intelligenz längst in den Unternehmen angekommen, die Rechtsentwicklung hinkt hinterher“, erklärt Anderl. Die Technik entwickle sich schneller, als die Gesetzgeber derzeit darauf reagieren könnten. „Bis es einen einheitlichen Rechtsrahmen auf EU-Ebene gibt, wird es noch einige Jahre dauern. Der österreichische Gesetzgeber könnte aber schon jetzt agieren, um zu den Vorreitern zu gehören“, sagt Alexandra Ciarnau, Rechtsanwältin bei Dorda mit Spezialisierung auf IT-Recht.

Unternehmen, die Dorda konsultieren, wollen meist Beratung bei der Implementierung von neuer Software, ein generelles KI-Konzept erarbeiten – oder sich rechtlich absichern. Dabei gilt es einiges zu beachten. „Wenn es etwa darum geht, KI mit persönlichen Daten der Mitarbeiter:innen zu füttern, dann braucht es die Zustimmung des Betriebsrates“, sagt Ciarnau. Wie in solchen Fällen seitens der Mitarbeiter:innen reagiert wird, hänge ganz vom Mindset und der Unternehmenskultur ab. „Wenn die Geschäftsführung überfallsartig Forderungen stellt, kann es zu Schwierigkeiten kommen – mit genügend Aufklärungsarbeit können Ängste und Zweifel aber meist ausgeräumt werden“, erklärt Ciarnau. Für Unternehmen würde es Sinn machen, interne KI-Leitfäden zu entwickeln und genau zu definieren, wie man mit der Technologie umgehen will. „Erstens kann das Innovationen beschleunigen, zweitens können durch den offenen Umgang auch Menschen abgeholt werden, die der KI sehr emotional begegnen“, sagt Anderl.

Derzeit wird der Entwurf des AI-Acts in den EU-Mitgliedstaaten diskutiert. „Es gibt einen Abstimmungsprozess, bei dem Änderungen für den endgültigen Regulierungsvorschlag aufgegriffen werden“, sagt Köszegi. Viele KI-Expert:innen sehen den AI-Act jedoch kritisch. „Schief gelaufen ist, dass es nicht um die eingesetzte Methode gehen sollte, sondern darum, was eigentlich gemacht wird“, sagt Hochreiter. Verleitende Werbung für In-App-Käufe etwa sei auch ohne den Einsatz von KI problematisch. „Wenn ich für fragwürdige Geschäftspraktiken statt einer KI Statistiken hernehme, macht das den Vorgang nicht besser“, sagt er. Eine KI-gesteuerte Rakete sei gefährlich – eine Rakete ohne KI-Einsatz aber ebenso. Wie bei jeder Technologie komme es also auf den konkreten Anwendungsfall an. „Ich sehe den EU-AI-Act sehr kritisch, weil ich befürchte, dass sich die großen Datenkraken ähnlich wie bei der DSGVO absichern, indem sie sich die Zustimmung der Endverbraucher:innen holen“, sagt Nessler._

Wir werden durch KI manipuliert – eine Regulierung ist notwendig.

Sabine Theresia Köszegi KI-Ethikerin, TU Wien

Die weitverbreitetsten KI-Irrtümer

  • 1 KI können einen eigenen Willen entwickeln

Künstliche Intelligenzen sind mehr oder weniger komplexe Programme, die mathematische Formeln umsetzen. Softwareprogramme können keinen eigenen Überlebenswillen oder ein Bewusstsein entwickeln – zumindest sind solche Entwicklungen noch viele Jahrzehnte entfernt.

  • 2 Die künstliche Intelligenz ähnelt der menschlichen Intelligenz

Mächtige KI-Sprachverarbeitungs- und Erkennungsprogramme sind in der Lage, mit Menschen zu kommunizieren, komplexe sprachliche Zusammenhänge zu erkennen und sogar Witze zu erklären. „Auch wenn man denkt, dass diese Systeme schon wahnsinnig intelligent sind, darf man nicht vergessen, dass eine Maschine nicht einmal weiß, dass es hinter den Wörtern überhaupt eine echte Welt gibt. Wörter sind für sie nur Zeichenketten, mit denen sie arbeiten“, sagt Hochreiter.

  • 3 Eine KI ist neutral und objektiv

Jede KI ist nur so gut wie die Daten, mit der sie arbeitet. Genau diese Daten wurden von aber von Menschen erfasst und bearbeitet – dadurch fließen oft menschliche Vorurteile Wertvorstellungen mit ein. Die KI übernimmt diese.

  • 4 Der Einfluss von KI auf unser Leben ist noch relativ gering

Das Gegenteil der Fall. Welcher Newsfeed uns auf sozialen Medien angezeigt wird, welche Produkte beim Onlineshopping empfohlen werden, welche Ergebnisse Suchanfragen liefern – all diese Dinge sind längst KI-gesteuert.

In der Praxis ist KI längst in den Unternehmen angekommen, die Rechtsentwicklung hinkt hinterher.

Axel Anderl Managing Partner, Dorda Rechtsanwälte

#Ähnliche Artikel

Aus dem Mühlviertel in die weite Welt

Als kleines Land hat Österreich im internationalen Vergleich viele Hidden Champions zu bieten. Wie ein Blick nach Hagenberg verrät, spielt das im dortigen Softwarepark ansässige Unternehmen Ventopay im Konzert der ganz Großen mit, liefert Digitalisierungslösungen für Weltkonzerne und kooperiert dabei auch regional mit anderen Technologieführern.

„Stehen erst am Anfang der Herausforderungen“

Die Zahl der Cybersecurity-Vorfälle steigt Jahr für Jahr an – der globale Schaden soll bis 2025 auf 10,5 Billionen Dollar steigen. Immer mehr Unternehmen werden mit Verschlüsselungstrojanern erpresst, durch die der Zugriff auf die eigene IT-Infrastruktur verloren geht. Für KMU kann der Schaden schnell sechsstellige Summen erreichen. Ebenfalls problematisch: Raubkopien und Reengineering. In Zukunft dürfte sich die Lage laut Expert:innen weiter verschärfen.

Eigenverantwortung statt Formalismus

Die NTS Netzwerk Telekom Service gestaltet und betreut IT-Lösungen in den Bereichen Netzwerk, Security, Collaboration sowie Cloud und Data Center. Im gesamten seit mehr als 27 Jahren, am Standort Linz seit 2007. Um die täglichen Herausforderungen zu bewältigen, setzt man in Linz auf persönlichen Austausch abseits formeller Meetings, eine offene Unternehmenskultur und Eigenverantwortung.

It's a match! Made in Bergheim

Das „S“ in USA steht für Salzburg. Zumindest, wenn man einen Blick ins beschauliche Bergheim im Norden der Landeshauptstadt wirft. Denn beim dort ansässigen Traditionsunternehmen Ramsauer & Stürmer Software ist mit Aptean ein Global Player am Markt für ERP-Lösungen eingestiegen – aus Georgia direkt ins Salzburger Land. Was hat sich seit der Übernahme vor mehr als einem Jahr alles getan?

TikTok: Muss das sein?

TikTok ist derzeit die angesagteste App auf den Screens der Welt. Dem Social Network aus China wird sogar zugetraut, Facebook und Instagram vom Thron zu stürzen. In sämtlichen Marketingabteilungen der Welt ist TikTok ein Thema. Die einen sehen darin bloß stumpfe Unterhaltung, die anderen viele Chancen. Die Linzer Videomarketing-Agentur Pulpmedia hat bereits zahlreiche Unternehmen und Marken in Sachen TikTok betreut und beraten und sich so einen Namen als TikTok-Experte im gesamten deutschsprachigen Raum gemacht.

Wie ein digitales Herz eine ganze Region belebt

Babumm, babumm, babumm. Wäre die Digitalisierung in Oberösterreich ein menschlicher Körper, wäre Linz wohl in der linken Brust angesiedelt – denn dort pocht die Landeshauptstadt als Herz der gesamten Region. Und das nicht ohne Grund. Im Gespräch mit Bürgermeister Klaus Luger über die Initiative „Digitales Linz“ und darüber, warum man auf den Zug der Digitalisierung unbedingt aufspringen sollte und wie an einer Innovationsdrehscheibe die Zukunft Oberösterreichs entsteht.

„Wenn wir das Rad neu erfinden, muss auch jemand damit fahren wollen“

Manchmal reicht es einfach nicht, innovative Produkte auf den Markt zu bringen. Vielmehr muss man auch die Kund:innen begeistern, den Weg der Innovation mitzugehen. Wir zeigen, wie das bodenständige Mühlviertler Unternehmen E+E Elektronik diese Herausforderung täglich meistert und was es als Innovationstreiber tatsächlich braucht.

Digitalisierung zu Ende gedacht

Sprache verbindet. Sie ermöglicht es uns, miteinander zu kommunizieren und erleichtert unseren Alltag erheblich. Zur Hürde wird sie nur dann, wenn man ihr nicht mächtig ist. Ganz ähnlich verhält es sich mit der Digitalisierung: Sie birgt das Potential, unser Leben auf das nächste Level zu heben. Zumindest, sofern man sie versteht. mgm begreift sich als Vermittler zwischen dem Business, der IT und der Organisation – und hat dafür das Zusammenspiel von Consulting und Technologie perfektioniert, um Kundenorganisationen Lösungen aus einer Hand zu bieten.

Durch die digitale Prärie

Wer sind die Vorreiter:innen, wenn es darum geht, erfolgreich durch die „digitale Prärie“ zu navigieren? Wir haben uns auf die Suche begeben und einige von ihnen gefunden. Ein Überblick.

Fernsehen der übernächsten Generation

Am Smartphone persönliche Einstellungen vorzunehmen, ist ganz normal – das Fernsehgerät dagegen lässt derzeit noch weniger Raum für Individuelles. Da TV-Geräte mittlerweile leistungsstarke, mit dem Internet verbundene Computer sind, entstehen aber vielfältige Nutzungsmöglichkeiten darüber hinaus. In Oberösterreich wird an neuen Möglichkeiten und Services gearbeitet, um den „Big-Screen” noch individueller zu bespielen. Im Fokus: eine innovative Newslösung.

„Die Zukunft ist elektrisch!“

Loyalität, Fachkompetenz und eine ehrliche Feedbackkultur auf Augenhöhe – all das zeichnet das 140-köpfige Team hinter Siblik Elektrik aus. Das Partnerunternehmen für Elektro- und Haustechnik lud uns an einem Montagmorgen ein, einige leitende Teammitglieder am Hauptsitz in Wien kennenzulernen. Sie erzählten uns von der Zusammenarbeit und den Erfolgen ihrer Teams und schon bald zeigte sich: Hier wird der partnerschaftliche Umgang auf allen Ebenen des Unternehmens gelebt.

Es braucht mehr Interaktion

Aus der Gaming-Branche ist die virtuelle Realität längst nicht mehr wegzudenken. Auch in der Entertainment-Welt hält diese Technologie immer mehr Einzug. Doch wohin geht die Reise – stehen künftig auch bei Konferenzen und Tagungen nur noch Avatare auf der Bühne? Wir sprechen mit Manfred Hämmerle, Chef von Österreichs führendem Konferenz- und Seminaranbieter.

Datenanalyse statt Bauchgefühl

Die Digitalisierung hat längst in die Landwirtschaft Einzug gehalten: Satellitenbilder werden zur Analyse der Ackerflächen verwendet, Traktoren fahren mit Spurenlenksystemen automatisch und zentimetergenau über das Feld, Künstliche Intelligenzen prognostizieren den Ernteerfolg. Für die Landwirt:innen sind die neuen Technologien eine Chance, um besser mit volatilen Produktionsbedingungen zurechtzukommen; für Österreich sind sie essenziell, um langfristig die Versorgung zu sichern.

Der Siegeszug der KI

Auch wenn die Digitalisierung langsamer voranschreitet als in den USA und Asien: In der heimischen Wirtschaft kommt KI immer öfter zum Einsatz. Weil sich industrieübergreifende Trends global meist schnell durchsetzen, ist Künstliche Intelligenz besonders in großen Unternehmen bereits alltäglich. Meist wird sie zur Steigerung der Effizienz eingesetzt – aber auch in anderen Anwendungsbereichen gibt es gewaltiges Potential.

„Eine Maschine kann nie so empathisch sein wie ein Mensch“

Wie verändert Künstliche Intelligenz unseren Arbeitsalltag? Und wie bereitet man sich am besten als Arbeitgeber:in oder Arbeitnehmer:in auf die bevorstehenden Veränderungen vor? Diese und viele weitere Fragen werden am Kongress „Powercouple: Mensch & Maschine“ der ARS Akademie am 14. September behandelt.

Technologischer Meilenstein für Zeitungsverlage

Die beiden oberösterreichischen Forschungseinrichtungen Software Competence Center Hagenberg GmbH (SCCH) und RISC Software GmbH haben gemeinsam mit dem Tech-Unternehmen Newsadoo große Fortschritte im Rahmen eines Forschungsprojekts erzielt. Dadurch wird es Verlagen ermöglicht, in digitalen Kanälen datenbasiert zu arbeiten und neue Funktionen und Monetarisierungsmodelle inhouse zu entwickeln. Das große Ziel von Newsadoo liegt darin, die Vielfalt und Unabhängigkeit der europäischen Medienlandschaft zu erhalten und sie bei der Digitalisierung und Monetarisierung ihres Contents durch datenbasierte Technologien zu unterstützen.

PR

Kreativer Brückenbau zwischen den Branchen

Kreativität ist das Fundament für alle Innovationen. Sie gilt als Reaktion auf die gestiegene Nachfrage nach nicht-routinemäßigen, zwischenmenschlichen und analytischen Fähigkeiten als eine der vier wichtigsten Kernkompetenzen des 21. Jahrhunderts. Die Creative Region Linz & Upper Austria mit Sitz in der Tabakfabrik Linz fordert und fördert Kreativität in der oberösterreichischen Wirtschaft und inspiriert, initiiert und vernetzt seit über zehn Jahren Ideen, Menschen und Unternehmen sowohl aus der Kreativwirtschaft als auch aus anderen Branchen.

Wie sieht Beratung in Zukunft aus?

War gefühlt noch gestern von der Arbeitswelt 4.0 die Rede, befinden wir uns heute dank der digitalen Transformation bereits auf dem nächsten Level. Die Arbeitswelt 5.0 ist noch smarter, vernetzter und erweist sich spätestens seit der Coronakrise als notwendiger Schritt in die Zukunft. Auf dem Weg dorthin leisten Nikolaus Schmidt und sein Consultingunternehmen Klaiton Unterstützung.