Spätestens seit ChatGPT ist KI in aller Munde. Was vor ein paar Jahren noch Science Fiction war, ist heute Realität geworden. KI dringt zunehmend in nahezu alle Lebensbereiche ein und bestimmt viele Aspekte unseres Alltags. Als IT-Unternehmen befassen wir uns bereits 2015 mit diesem Thema und setzen Machine Learning sowie künstliche neuronale Netze (KNN) in unseren Projekten ein. Darüber hinaus haben wir auch im Rahmen unserer Forschungstätigkeit mit den Universitäten in der Region erfolgreiche KI-Modelle für unterschiedliche Anwendungsbereiche realisiert.

Anlässlich des Artificial Intelligence Appreciation Day haben wir nun mit drei unserer Mitarbeitenden gesprochen. Im Interview teilen sie mit uns ihre Erfahrungen und Prognosen und geben interessante Einblicke in ihre Arbeit. Sie sprechen u. a. über Open-Source-Modelle, wirtschaftliche Aspekte sowie Auswirkungen auf Bereiche innerhalb der IT-Branche.

Den Anfang macht Danny Hucke, der bei uns die Rollen Teamleitung Digital Product Design sowie wissenschaftlicher Referent übernimmt. Danny befasst sich schon seit Längerem intensiver mit KI und wir haben ihn um eine Einschätzung der aktuellen Lage gebeten.

Als einen der Hauptgründe für den raschen Erfolg in den letzten Jahren sehe ich auf jeden Fall die Möglichkeit, heute sehr schnell sehr breit Skalieren zu können, mehr Daten, mehr Parameter, mehr Rechenpower, mehr Speicher. Das ist auch heute noch mit sehr hohen Kosten verbunden. Die aktuelle KI-Revolution kam nicht etwa durch grundlegend neue Theorien oder Algorithmen zu Stande, denn diese existieren im Kern bereits seit Jahrzehnten. Rechenpower und Skalierung sind hier ganz klar der ausschlaggebende Faktor.

Trotzdem ist es so, dass nach meiner Erfahrung KI noch nicht vollständig in der technischen Arbeit angekommen ist. Klar, auch hier bei uns nutzen immer mehr Entwickelnde Tools wie ChatGPT für ihre Recherche oder wenn bspw. eine SQL Query benötigt wird. Eine Handvoll Mitarbeitender setzt auch regelmäßig GitHub Copilot ein – aber die große Masse ist es noch nicht. Wer jedoch in den nächsten Jahren Softwareentwicklung wettbewerbsfähig betreiben möchte wird auf KI-Systeme nicht verzichten können – und das gilt nicht nur für die Softwareentwicklung.

Wenn du sagst, nicht nur für die Softwareentwicklung, an welche Branchen denkst du da konkret?

Als Erstes fällt mir da tatsächlich die Kreativ-Branche ein. Das hat mich doch ziemlich überrascht und viele andere wahrscheinlich auch, also, dass die ersten Jobs, die wesentlich davon betroffen sind, nicht etwa Arbeiten am Fließband sind, sondern eben dort, wo eigentlich enorm viel menschliche Kreativität erforderlich ist.

Grundsätzlich sehe ich KI jedoch ganz klar als Zeitsparer und Enabler. Die Zugangshürde zu zuvor eher komplizierten Themen ist deutlich abgeschwächt. Die Maschine spricht nicht nur meine, sondern auch komplexe Sprachen wie bspw. Programmiersprachen. Das System ist genau so schlau wie zuvor, aber jetzt kann ich ihm sagen, was es machen soll.

Diese Tools ermöglichen einen schnellen Zugriff auf unterschiedliche Dinge, verbunden mit einer Vielzahl an Aktionsmöglichkeiten. Wer bspw. ein neues Framework erkunden möchte, fragt heute einfach ChatGPT. Die Angst vor dem sogenannten weißen Blatt ist obsolet geworden und die erste Hürde zu überwinden so einfach wie nie. Vor allem im medizinischen Bereich stehen wir vor Möglichkeiten, die man durchaus als revolutionär bezeichnen könnte – Google ist da derzeit ganz vorne mit dabei. Aber auch im Büroalltag wird sich so einiges ändern, Microsoft stattet zum Beispiel gerade sein gesamtes Office-Paket mit KI-Funktionen aus.

Was die Softwareentwicklung betrifft, so sehe ich nach aktuellem Entwicklungsstand nicht, dass KI uns Menschen vollständig verdrängen wird. Sie kann uns vor allem Dinge abnehmen, die keine großen Denkleistungen benötigen wie bspw. Boilerplate Code schreiben. Selbst komplexere Fragestellungen werden höchstwahrscheinlich auch in den nächsten 1-2 Jahren nicht an KI-Systeme ausgelagert werden können. Einfache Dinge wie das Bauen von einfachen Daten-APIs oder das Erstellen von weniger komplexen Websites, werden allerdings schon heute hervorragend von KI-Modellen ausgeführt.

Auch im Privatbereich werden diese Tools noch viel stärker eingesetzt werden und alle möglichen Dinge von Reisebuchungen bis hin zu Essensbestellungen übernehmen. Die Plus-Version von ChatGPT verfügt bereits über eine Vielzahl an Plug-ins und Anbindungen, etwas, das in Zukunft noch deutlich steigen wird.

Das sind doch eigentlich ganz gute Prognosen. Siehst du im Zusammenhang mit KI auch Risiken, die auf uns zukommen könnten?

Klar, trotz der Vorteile bestehen natürlich auch Gefahren – und dafür benötigt es noch nicht mal Dystopien, in denen Maschinen die Weltherrschaft übernehmen. Die Desinformationskampagnen der letzten Jahre sind da ein gutes Beispiel. Mittels KI hat man nun die Möglichkeit, diese Kampagnen auf ungeahnte Größen zu skalieren – und das mit Maschinen, die auf menschlichem Niveau schreiben. Wozu früher ganze Troll-Armeen benötigt wurden, kann heute mit KI-Programmen von kleinen Gruppen erledigt werden. Mit vergleichsweise geringem Aufwand können auch Stimmen generiert werden, die kaum noch von realen Personen zu unterscheiden sind.

Die Entwicklung steht nicht still und jeden Tag gibt es Verbesserungen. KI wird heute schon für unterschiedliche Formen von Scam, Phishing und Desinformation genutzt und ich glaube, dass wir uns hier gerade an der Schwelle befinden, bevor es richtig brenzlig wird. Es ist jedoch auch hervorzuheben, dass diese Tools auch für andere Zwecke genutzt werden können, bspw. um sich vor solchen Angriffen zu schützen.

Inwiefern das mit der Intelligenz dieser Systeme zu tun hat bzw. ob diese Systeme überhaupt intelligent sind, darüber lässt sich streiten. Was sie auf jeden Fall können, ist Pläne schmieden. Das kennen alle, die ChatGPT einmal gefragt haben, ob es eine Schritt-für-Schritt-Anleitung zu einem gewissen Problem erzeugen kann – egal wie gut dann die Antwort ist. Erhalten die Systeme die Möglichkeit, ihre Pläne auch noch in der Realität auszuführen bspw. durch Zugriff auf andere Programme, das Internet, APIs, etc., kann mit der falschen Intention hier sehr viel Schaden angerichtet werden.

Wovon wir aus meiner Sicht allerdings noch ein gutes Stück entfernt sind, ist Artificial General Intelligence (AGI). Also jener Ausprägung von KI, die als autonomes System die kognitiven Fähigkeiten von Menschen mit der Rechenpower von Computern vereint. Dabei ist zu beachten, dass niemand erklären kann, wie Bewusstsein entsteht und welche „Algorithmen“ in unserem Gehirn wirklich zu unseren kognitiven Fähigkeiten führen. Vielleicht sind die aktuellen Modelle gar nicht so weit davon entfernt. Ich glaube aber, ohne es beweisen zu können, dass da noch wichtige Zutaten fehlen bis Maschinen wirklich das menschliche Denkvermögen übersteigen. Ich komme ja aus einem mathematischen Hintergrund und ich sehe in meinen Gesprächen mit ChatGPT zum Beispiel nicht, dass diese Modelle nah dran sind für komplexe mathematische Probleme, Lösungen und Beweise zu finden, wie wir Menschen es können.

Wie gesagt, derzeit sind wir noch nicht an einem Punkt, an dem sich KI wie ein menschliches Gehirn verhält, aber alleine die Möglichkeit dieser Entwicklung birgt Gefahren in sich. Niemand kann die Zukunft vorhersagen, klar ist nur, dass in den nächsten Jahren große Veränderungen auf uns zukommen werden und da sehe ich KI ganz klar als Chance, unser Leben zu bereichern und zu verbessern – privat wie in der Arbeitswelt. Wichtig ist hierbei nur, den Systemen nicht blind zu vertrauen und jede Lösung auch zu überprüfen. Egal ob Code oder Finanztipps: Übernimm nie etwas, das du nicht verstehst.

Als nächstes haben wir mit Thomas Schäfer gesprochen, der bei uns als Softwareingenieur tätig ist.

Erste Berührungspunkte mit KI hatte ich bereits während des Studiums. Damals habe ich meine Masterthesis über künstliche Intelligenz geschrieben. Das Thema hat mir viel Freude bereitet, da es so viele Anwendungsgebiete gibt, in denen KI uns Menschen unterstützen kann – und ich sage ganz bewusst unterstützen. Derzeit denke ich nicht, dass KI den Menschen jemals in derselben Qualität großflächig ersetzen könnte. Im Bereich des Vorfilterns sehe ich jedoch einen sehr gelungenen Anwendungsfall für KI-Unterstützung. Genau darum ging es auch in meiner Masterthesis. Ein KI-Modell wurde darauf trainiert Hassrede im Internet zu erkennen und Kommentare vorzusortieren. Dies spart Zeit und ermöglicht effizienteres Arbeiten für die moderierenden Personen.

Wie beurteilst du die aktuelle Entwicklung?

Zugegeben bin ich ziemlich erstaunt darüber, wie schnell der Fortschritt in den letzten fünf Jahren voranging – vor allem auch, dass Open-Source-Modelle zunehmend auch an den Erfolg der großen kommerziellen Modelle anknüpfen können. Grundsätzlich bin ich kein Freund davon, wenn Firmeninterna mit einer KI geteilt werden, die man nicht selbst hostet. Da fällt mir gerade der Fall von Samsung und ChatGPT ein. Diese Tools können den Softwareentwicklungsprozess natürlich enorm unterstützen, aber zu welchem Preis? Oftmals werden die eingegebenen Daten dazu verwendet, um eben genau diesen Code-Interpreter zu trainieren. Hier gilt es Awareness zu schaffen.

Grundsätzlich stellt sich auch die Frage, ob man Open-Source-Modelle verwenden möchte, die zwar immer besser werden, im Wettbewerb jedoch noch hinter Anwendungen wie bspw. ChatGPT oder GitHub Copilot stehen. Möchte man State-of-the-Art-Technologien mit all den dazugehörigen Vor- und Nachteilen nutzen oder doch noch ein wenig warten, bis Open-Source-Modelle daran aufgeschlossen haben?

Ein interessanter Vergleich. Welche Erfahrung hast du mit solchen Tools gesammelt?

Als Softwareentwickelnder möchte man natürlich immer auf dem neuesten Stand sein. Auch ich nutze Tools wie bspw. ChatGPT, um zu erforschen, wie das Ganze funktioniert. Derzeit arbeite ich jedoch nur im privaten Umfeld damit und auch hier nur mit fiktiven Daten. Das Abstrahieren der Daten, sodass diese nicht mehr zugeordnet werden können, würde mir in meinem Arbeitskontext mehr Zeit kosten, als selbst einen Lösungsansatz zu erarbeiten.

Grundsätzlich finde ich alle diese Anwendungen wahnsinnig spannend, da man unglaublich viel damit machen kann. Problematisch sehe ich allerdings Bestrebungen, eine KI bloß austricksen zu wollen und dafür wertvolle (Rechen-)Zeit dafür opfert, anstatt die KI produktiv einzusetzen.

KI-Tools werden zunehmend wichtiger und auch große Teile unserer Arbeit in der Softwareentwicklung übernehmen – diese Transition muss bedacht werden. Vor allem bei riesigen Datenmengen, die mit menschlichen Ressourcen nicht mehr errechnet werden könnten, bietet der Einsatz von KI erhebliche Vorteile, die Daten zu aggregieren und somit Schlüsse zu ziehen.

In vielen Medien kursieren in letzter Zeit immer wieder Artikel, die sich mit den Gefahren von KI auseinandersetzen – bis hin zu Weltuntergangsszenarien. Wie ist deine Einschätzung dazu als jemand, der sich damit auch beruflich befasst?

Grundsätzlich macht eine KI nur genau das, was ihr beigebracht wird – ein neuronales Netz schafft kein neues Wissen. Ich persönlich finde es auch schwierig, das Wort „gelernt“ in diesem Zusammenhang zu verwenden. Wir vermenschlichen damit etwas, das nicht menschlich ist und sich auch grundlegend in der Funktionsweise von dem, was wir als menschliches Lernen begreifen, unterscheidet. Was unsere Jobs als Softwareentwickelnde betrifft, so sehe ich kein Risiko durch den Einsatz von KI und auch keine Dystopien, in denen eine KI die Weltherrschaft übernimmt. Dennoch sind die Gefahren real.

Vieles, das wir tun, wird bereits heute durch KI bestimmt. So wird bspw. die Reihenfolge der angezeigten Posts in sozialen Netzwerken von einer KI erstellt – und das ist tatsächlich problematisch. Menschen zeigen sich in sozialen Medien erfolgreich, was auch gut geklickt wird. Dies sorgt dafür, dass einem vermehrt solche Posts angezeigt werden. Tagtäglich begegnen wir auf diesen Plattformen einer Flut an erfolgreichen und glücklichen Menschen und unser Gehirn schafft es nicht abzuschalten – wir beginnen uns mit Utopien zu vergleichen. Wir sollten vermeiden, von Social Media zu lernen und es eher als mahnendes Beispiel für KI-Ethik sehen. Ich selbst verwende nur noch Mastodon, selten LinkedIn – ich bin immer auf der Suche nach ethisch vertretbaren Lösungen.

Ein weiteres Problem sehe ich in der Flut an sogenannten Fake-Seiten, die mit KI-Tools von ganzen Content Farmen erstellt werden. Diese Seiten liefern zu 100 % KI-generierte Inhalte und bedienen oftmals Nischen – sind mit Affiliate-Links versehen, die eher dazu dienen, schnelles Geld zu machen, anstatt tatsächlicher Hilfestellungen anzubieten. Das sind Dinge, die real sind und die wir wahrnehmen müssen. Insgesamt sind das alles aber recht überschaubare Gefahren, die wir mit unserem menschlichen Gehirn begreifen können. Natürlich hängt es immer davon ab, wie diese Dinge eingesetzt werden, aber insgesamt überwiegen hier die Chancen die Gefahren und wir sollten diese auch nutzen.

Was unsere Arbeit in der Softwareentwicklung betrifft, so werden KI-Tools eher früher als später große Teile übernehmen. Auch heute verwenden wir schon Codescanner, um die Codequalität zu steigern. Dieser Komfort ermöglicht es uns auch, an komplexeren und wichtigeren Fragestellungen zu arbeiten, weshalb die Softwareentwicklung auch weiterhin in Menschenhand sein wird. Diese Tools unterstützen unsere Arbeit und ersetzen uns nicht – sie werden fester Bestandteil des zukünftigen Unternehmenswerkzeugkasten bleiben oder werden.

Kommen wir nun zu Marcel Haelke, der unser Data Engineering Team leitet. Von ihm wollten wir wissen, welche Chancen aber auch Gefahren er für Data Science mit Voranschreiten der KI-Entwicklung sieht.

Im Allgemeinen betrachte ich die Errungenschaften im KI-Bereich als eine vielversprechende Chance für Data Science. Die Entwicklung der dahinterliegenden Algorithmen ist ja an sich schon Data Science pur. Die Weiterentwicklung an KI überhaupt – gerade was Machine-Learning-Algorithmen betrifft sowieso. Dass hier jedoch eine schnelle Ablöse stattfinden wird und es bald keine Data Scientists mehr gibt, sehe ich im Moment nicht. Vielmehr gewinnt man in diesem Bereich ein mächtiges Tool dazu. Derzeit besteht bspw. immer noch ein erheblicher manueller Aufwand in der Bereitstellung sowie Bereinigung von Testdaten. Doch mit der zunehmenden Intelligenz von KI-Systemen könnten diese Aufgaben natürlich in Zukunft ausgelagert werden.

Die Fortschritte im KI-Bereich eröffnen grundsätzlich eine Vielzahl an neuen Möglichkeiten. Maschinen haben den Vorteil, dass sie über einen neutralen Blickwinkel verfügen und daher mehr Muster erkennen sowie Abweichungen von diesen feststellen können. Ihr Blick ist nicht auf das beschränkt, was dem Menschen offensichtlich ist. Insofern könnte man durchaus die These wagen, dass Maschinen Data Science erweitern, anstatt sie zu ersetzen. Egal, ob es sich um geschäftliche Entscheidungen oder die Fehlerbehebung in verschiedenen Systemen handelt, KI-Unterstützung kann hierbei einen erheblichen Fortschritt leisten. Das Debugging wird vereinfacht werden und höchstwahrscheinlich werden auch Systeme entwickelt, die selbstständig nach Fehlerquellen suchen können. Auf lange Sicht wird auch im Bereich Data Science nichts so bleiben wie bisher. Viele der Algorithmen, mit denen wir heute arbeiten, zielen darauf ab, genau solche intelligenten Systeme zu speisen.

Dennoch denke ich nicht, dass Entwickelnde generell von heute auf morgen abgeschafft werden. Aber KI kann natürlich dabei unterstützen, Prozesse zu beschleunigen. Diese Tools können bereits das Schreiben von einfachem Code übernehmen oder bspw. Klassen automatisch generieren und überprüfen. Natürlich verdrängt das noch nicht vollständig den Menschen in der Softwareentwicklung, aber man muss auch darauf achten, wie die Konkurrenz diese Tools einsetzt. Produkte können dadurch mit weniger Arbeitsaufwand und womöglich auch günstiger angeboten werden, das ist etwas, wo man als Unternehmen dranbleiben muss und auch die eigenen Entwickelnden darauf schulen muss, wie man diese Tools richtig einsetzt. Hier sind natürlich viele Dinge auch noch ungeklärt, welchen Lizenzen unterliegt das urheberrechtlich, was passiert mit dem erzeugten Code? Wichtig ist hier vor allem auch den eigenen Kunden gegenüber transparent zu sein.

Was die Jobs betrifft, so sehe ich es derzeit nicht so schnell kommen, dass die ein oder andere Stelle aufgrund von KI wegfällt. Aktuell haben wir immer noch mit dem Fachkräftemangel zu kämpfen und dass sich dieses Verhältnis in kurzer Zeit so umkehrt, dass wir Fachkräfte loswerden müssen, halte ich für sehr unwahrscheinlich. Was nicht bedeutet, dass ich eine solche Entwicklung langfristig ausschließe. Insgesamt ist das ganze Thema auch eine zweigleisige Angelegenheit. Auf der einen Seite hat es natürlich das Potenzial, dass irgendwann weniger Entwickelnde benötigt werden, weil vieles einfach ausgelagert bzw. von KI-Systemen generiert werden kann. Auch für die restlichen Arbeiten, dem Bedienen bzw. dem Überprüfen der Ergebnisse dieser Tools werden natürlich weniger Menschen benötigt. Gleichzeitig eröffnet es aber auch ganz neue Projektmöglichkeiten und diese Entlastung befähigt auch dazu, mehr Projekte nebenher anzunehmen und auch umzusetzen. Man ist also in der Lage, viel mehr parallel laufen zu lassen und dafür benötigt es natürlich wieder mehr Menschen.

Ein spannender Ansatz. Wo siehst du abseits von wirtschaftlichen Aspekten Schwierigkeiten im Umgang mit KI, die uns als Gesellschaft betreffen?

Gefahren sehe ich so ein bisschen darin, dass man sich zu sehr darauf verlässt, dass man von diesen Tools eine fertige Lösung erhält. Gerade bei Dingen, die man nicht selbst geschrieben hat, ist es umso wichtiger, noch mal genauer hinzusehen, dass Funktionalitäten und Sicherheitsstandards auch so umgesetzt werden, wie man sich diese vorstellt.

Auch dieser riesige Umfang an Daten im Internet, der dafür genutzt wird, um diese Algorithmen zu trainieren, kann natürlich ein Risiko darstellen. Hier sind u. a. extrem viele Falschdaten und Fehlinformationen im Umlauf, die zukünftig noch gezielter gestreut werden könnten. Hier gilt es die Augen offenzuhalten. Womit lernt der Algorithmus? Woher zieht er seine Informationen für Anfragen? Kann er negativ beeinflusst werden?

Als Nachhaltigkeitsbeauftragter im Unternehmen denke ich natürlich auch an die enormen Mengen an Rechenleistungen, die diese Anwendungen verbrauchen. Das hat natürlich auch Auswirkungen auf unsere Umwelt. Klar, KI-Tools können vieles erleichtern, aber zu welchem Preis? Wie viel Emissionen werden bspw. erzeugt, wenn man sich seine Urlaubsreise von ChatGPT planen lässt? Ich finde, dass diesbezüglich viel mehr Bewusstsein geschaffen werden müsste, nicht nur in der IT-Branche, sondern auch in der privaten Nutzung. Je mehr Menschen diese Tools gebrauchen, umso mehr Rechenleistung wird natürlich auch benötigt und das setzt neue Emissionen frei. Je nachdem, wo diese Systeme sich befinden, spielen natürlich auch Sicherheitsstandards eine große Rolle und diese Systeme können gleichermaßen zu Waffe wie Ziel werden.

Ein weiteres Risiko sehe ich, KI-erzeugte Inhalte von menschlichen unterscheidbar zu halten. Was ist real und was nicht? Hier kann man leicht hinters Licht geführt werden. Fake News waren ja die letzten Jahre nahezu überall Thema und hier sehe ich schon problematische Entwicklungen, die durch KI noch verstärkt werden könnten. Vielleicht unterstützen die Systeme aber auch dabei, diese Inhalte zu erkennen.

Zu guter Letzt noch, was denkst du über Roboter, die in Zukunft die Welt übernehmen?

Das halte ich aktuell für einen Medienhype. Was einen nicht davon entbindet, bei der Entwicklung dieser Systeme immer im Hinterkopf zu behalten, ob das, woran man gerade arbeitet, auch noch kontrolliert werden kann bzw. ob man versteht, wie es funktioniert. Hier sehe ich ganz klar eine Verantwortung für Entwickelnde. Wichtig ist es, die Möglichkeiten zu nutzen und diese gewinnbringend für die Menschheit einzusetzen.

Wir möchten uns bei unseren Mitarbeitenden für diese aufschlussreichen Einblicke bedanken und können uns nur daran anschließen, dass wir KI als große Chance zur positiven Veränderung unserer Welt sehen. Derzeit sind wir auf der Suche nach neuen Lösungen, die sowohl Vorteile für unsere Kunden als auch Mitarbeitenden mit sich ziehen. Schon heute verschafft uns unser Know-how im Bereich KI und Machine Learning einen großen Vorsprung. Gemeinsam mit unseren Kunden sorgen wir für eine smarte Zukunft – durch Softwareentwicklung.