Warum Open-Source beim Einsatz von KI-Systemen eine gute Idee ist

Seit einigen Jahren ist deutlich spürbar, dass Künstliche-Intelligenz-Systeme langsam den Weg in Unternehmen jeder Größe finden. Wo anfangs nur Tech-Giganten Wege gesucht haben, ihre Daten besser zu verarbeiten und diese zu nutzen, um ihre Produkte zu verbessern, entstehen mittlerweile jedes Jahr neue Software-Systeme, die von bestehenden Technologie-Unternehmen oder auch Startups bereitgestellt werden, um Unternehmen bei der Transformation ins digitale Zeitalter zu unterstützen.

Viele Werkzeuge für die Entwicklung von KI-Systemen und Machine-Learning Algorithmen, wie z.B. Googles Tensorflow, sind Open-Source, wohingegen die meisten Plattformen und Software-Suites, die Unternehmen ohne großes Tech-Team und Machine-Learning-Kompetenz helfen, ihre Prozesse zu automatisieren unter eine prorietäre Lizenz gestellt sind und der Quellcode weder einsehbar, noch veränderbar ist.

KI-Systeme als elementarer Bestandteil von Unternehmen

Je grösser der Mehrwert des Einsatzes von KI-Systemen in Unternehmen ist, desto tiefer ist auch deren Integration in die Unternehmensprozesse und somit auch die Abhängigkeit der Unternehmen von der Funktionsfähigkeit dieser Systeme. Implementiert beispielsweise eine Versicherung ein System, das die bei ihnen auflaufenden Schadensfälle analysiert, vorkategorisiert, ggf. eigenständig abarbeitet und bei Bedarf an einen Mitarbeiter weiterleitet, ist dieses System ein essentieller Unternehmensbestandteil, auf den sich die Versicherung verlässt und im Extremfall sogar ihre Existenz von abhängig macht.

Setzen Unternehmen für diese Systeme auf Drittanbieter mit geschlossenen Systemen, kann diese Abhängigkeit problematisch werden.

Operationsfähigkeit der Firma abhängig vom Drittanbieter

Wird das Software-Produkt des Dienstleisters nicht mehr weiterentwickelt oder im aktuell häufigen Fall von Software-as-a-Service Modellen auch gar nicht mehr für die Nutzung bereitgestellt (z.B. bei Insolvenz des Anbieters), so ist auch für Unternehmen, die das System tief in die eigenen Prozesse integriert haben, die Operationsfähigkeit gefährdet und es müsste mit grossem finanziellen und personellem Aufwand ein neues System gesucht werden, das implementiert wird. Dieses Risiko ist besonders hoch, wenn man sich als Unternehmen auf ein Startup als Dienstleister verlässt.
Open-Source Software existiert in den meisten Fällen unabhängig vom Unternehmen, das diese Software ins Leben gerufen hat und als Hauptentwickler pflegt. Die Software kann auch ohne die Leistung dieses Unternehmens weiterhin genutzt werden, zu einem anderen Hosting-Dienstleister umgezogen werden bzw. selbst betrieben werden und auch weiterhin aktualisiert werden. Bei beliebten Open-Source Projekten werden Projekte nach Ausscheiden des hauptverantwortlichen Unternehmens von anderen Unternehmen oder Personen übernommen und weiterhin von der Community gepflegt.

Datenschutz

Die Frage des Datenschutzes stellt sich spätestens nach der Einführung der Datenschutzgrundverordnung 2018 immer dann, wenn personenbezogene Daten verarbeitet werden (z.B. Namen, E-Mail Adressen, IP-Adressen oder andere Daten, mit denen sich auf eine bestimmte Person schliessen lässt).
So müssen besonders Unternehmen in der EU vorsichtig sein, wohin sie ihre personenbezogenen Daten geben und es wird aktuell immer problematischer, wenn diese die EU verlassen. Bei der Nutzung von KI in unternehmenskritischen Prozessen des Unternehmens werden fast immer auch personenbezogene Daten verarbeitet. Idealerweise verlassen diese Daten nicht das Unternehmen und werden auf Servern des Unternehmens (oder eines vertrauenswürdigen Dienstleisters innerhalb der EU) betrieben. Diese Option ist bei Open-Source Software immer gegeben.

Vertrauen

KI-Systeme treffen immer wichtigere Entscheidungen und da ist es wichtig zu wissen, warum Systeme diese Entscheidung treffen, Fehler möglichst gut ausschliessen zu können und Systemen nicht blind zu vertrauen.
Bei abgeschlossenen Systemen, bei denen weder der Quellcode, noch die Daten, mit denen das System trainiert wurde, einsehbar sind, muss hier einem Anbieter leider blind vertraut werden. Bei Open-Source Systemen kann jeder, der Interesse hat, einsehen, wie das Programm Entscheidungen trifft, Schwachstellen öffentlich aufzeigen und so einen transparenten Diskurs führen.

Ich hoffe das sich das Open-Source-Ökosystem rund um KI-Systeme weiterhin vergrößert und besonders Startups in Zukunft vermehrt auf Open-Source Geschäftsmodelle setzen, bei denen sie ihre Software quellenoffen zur Verfügung stellen und mit Hilfe vom Verkauf von Zusatzfunktionen, Enterprise-Support oder Cloud-Funktionalität trotzdem ein wirtschaftlich tragfähiges Unternehmen aufbauen können

Wenn ihr Anregungen zu diesem Artikel oder Thema habt, schreibt uns gerne eine E-Mail an team[at]kiel.ai

(Der Autor Matthias Nannt arbeitet als Co-Founder & CTO an der Open-Source Experience Management Lösung Formbricks)