Künstliche Intelligenz: Vertrauen durch Transparenz

Künstliche Intelligenz, Maschinenlernen & Deep Learning sind leistungsfähige Technologien, die nahezu grenzenlose Möglichkeiten eröffnen: von maschinellen Übersetzungen über KI-Chatbots bis hin zu selbstfahrenden Autos.

Doch KI ist ein Werkzeug, das unsere besten und schlechtesten Entscheidungen verstärken kann und daher mit Umsicht eingesetzt werden muss: Beispielhaft sei hier auf automatisierte Bewerber-Screenings bei der Stellenbesetzung oder Kreditvergabe verwiesen, bei denen implizites Bias auftreten und durch KI verstärkt werden kann. Solche Probleme gilt es proaktiv zu identifizieren und zu beheben.

Wichtig ist dieses Problembewusstsein nicht nur für Data Scientists, die für Entwicklung, Deployment & Wartung von ML-Modellen zuständig sind, sondern auch für Geschäftsanwender, die mit vollautomatischen KI-Plattformen wie DataRobot arbeiten.

Bei DataRobot steht das Thema ‚vertrauenswürdige KI‘ weit oben auf der Agenda:

1. Transparenz schaffen: Die Plattform ist bewusst nicht als ‚Black Box‘ konstruiert, sondern bietet dutzende Transparenz-Tools, die auch nicht-technischen Anwendern helfen zu verstehen, wie das verwendete Prädiktionsmodell funktioniert: Schliesslich soll der Algorithmus nicht nur präzise und verlässliche Geschäftsprognosen erstellen, sondern auch die jeweiligen Unternehmenswerte reflektieren.
   
   
2. Ethische Fragen bewusst angehen: Was wäre wenn Versicherungsunternehmen die Bewegungsdaten ihrer Kunden auswerten würden und denen, die ihr Auto nachts in Gebieten mit zahlreichen Sachbeschädigungs- & Diebstahlsdelikten parken, die Versicherungsprämie erhöht – oder gar den Vertrag kündigt? DataRobot ist sich der Privatsphäre-Problematik vollauf bewusst und lädt regelmässig zu Gesprächen mit bekannten Ethik-Experten. Hören Sie doch mal rein: More Intelligent Tomorrow podcast #014 mit Thomas Chamorro-Premuzic.

Künstliche Intelligenz soll menschliche Entscheidungen nicht ersetzen, sondern durch neue Erkenntnisse und die Erklärung bislang unbekannter Zusammenhänge unterstützen. DataRobot hat sich zum Ziel gesetzt, eine KI zu schaffen, die schwierigen Fragen ethisch, fair und vertrauenswürdig löst und die Nutzer bestmöglich vor unerwarteten Modellproblemen schützt. In der Zusammenarbeit mit Kunden und Partnern wird die Bedeutung proaktiver, Vertrauen schaffender Massnahmen immer wieder bestätigt.

Mehr Informationen zu DataRobot und dessen Engagement für ethische KI gibt es in diesem LinkedIn-Event mit Edward Kwartler: Trust, Ethics, and AI.