Nicht genehmigte KI am Arbeitsplatz gefährdet Unternehmensdaten, Systeme und Geschäftsbeziehungen. So lenken Sie die Neugier Ihrer Mitarbeiter auf KI auf akzeptable Verwendungsmöglichkeiten – und einen organisatorischen Wert. Wie alles, was mit Technologie zu tun hat, hat sich auch die Schatten-IT weiterentwickelt.

Bei der Schatten-IT geht es nicht mehr nur um SaaS-Anwendungen, die auf die besonderen Bedürfnisse einiger Mitarbeiter zugeschnitten sind, oder um den Verkauf einiger persönlicher BlackBerrys zum Einschmuggeln, damit diese von überall auf Arbeitsdateien zugreifen können. Heutzutage wird bei der Schatten-IT eher KI eingesetzt, während Mitarbeiter daran arbeiten Testen verschiedener KI-Tools ohne Kenntnisse oder Unterstützung der IT-Abteilung.

Das Ausmaß der Schatten-KI ist laut einer Studie des Datenschutzsoftwareherstellers Cyberhaven atemberaubend. Laut dem Artificial Intelligence Adoption and Risk Report vom Frühjahr 2024 erfolgen 74 % der ChatGPT-Nutzung über Nicht-Unternehmenskonten, 94 % der Google Gemini-Nutzung über Nicht-Unternehmenskonten und die Nutzungsrate von Bard liegt bei 96 %. Infolgedessen verschlingt nicht autorisierte KI Ihre Unternehmensdaten, da Mitarbeiter Rechtsdokumente, Personaldaten, Quellcode und andere vertrauliche Unternehmensinformationen in KI-Tools einspeisen, für deren Verwendung die IT-Abteilung keine Genehmigung erteilt hat.

Schatten-KI sei fast unvermeidlich, sagte Arun Chandrasekaran, ein angesehener Vizepräsident und Analyst beim Forschungsunternehmen Gartner. Arbeitnehmer sind neugierig auf KI-Tools als Möglichkeit, die Belastung durch hektische Aufgaben zu verringern und die Produktivität zu steigern. Andere wollen sie nutzen, um zu verhindern, dass sie durch die Technologie ersetzt werden. Andere haben sich daran gewöhnt, KI für persönliche Aufgaben zu nutzen und möchten die Technologie nun auch bei der Arbeit nutzen. Was könnte schiefgehen?

Chandrasekaran räumt ein, dass diese Gründe plausibel sind, sie erklären jedoch nicht die Risiken, die Schatten-KI für Unternehmen mit sich bringt.

„Die meisten Unternehmen wollen Schatten-KI wegen der enormen Risiken vermeiden“, sagte er.

Chandrasekaran sagte beispielsweise, dass sensible Daten eher durchsickern, während proprietäre Daten dazu beitragen könnten, dass KI-Modelle (insbesondere Open-Source-Modelle) intelligenter werden, was Konkurrenten hilft, die möglicherweise dieselben Modelle verwenden.

Gleichzeitig mangelt es vielen Arbeitnehmern an den erforderlichen Fähigkeiten, umKI effektiv einzusetzen, was die Risiken weiter erhöht. Sie sind möglicherweise nicht kompetent genug, um das KI-Modell mit den richtigen Daten zu versorgen, um eine qualitativ hochwertige Ausgabe zu erzeugen. Mitarbeiter können beispielsweise generative KI verwenden, um Computercode zu erstellen. Wenn sie jedoch die Syntax oder Logik des Codes nicht verstehen, können sie den Code nicht effektiv auf Probleme prüfen. „Das kann sehr schädlich sein“, sagte Chandrasekaran.

Gleichzeitig könnte Schatten-KI zu Störungen am Arbeitsplatz führen, da Mitarbeiter, die KI heimlich nutzen, möglicherweise einen unfairen Vorteil gegenüber denen haben, die solche Tools nicht nutzen. „Dies ist noch kein Mainstream-Trend, aber wir hören diese Besorgnis in Gesprächen mit Organisationsleitern“, sagte Chandrasekaran.

Schatten-KI könnte auch rechtliche Probleme aufwerfen. Beispielsweise kann nicht genehmigte KI illegal auf das geistige Eigentum anderer zugreifen und die Organisation für Verstöße haftbar machen. Es kann zu voreingenommenen Ergebnissen führen und gegen Antidiskriminierungsgesetze und Unternehmensrichtlinien verstoßen. Oder es kann zu einer falschen Ausgabe kommen, die an Clients und Clients weitergeleitet wird. Alle diese Situationen können eine Haftung für die Organisation nach sich ziehen, die für alle daraus resultierenden Verstöße oder Schäden verantwortlich gemacht wird.

Tatsächlich sind Unternehmen bereits mit den Konsequenzen konfrontiert, wenn KI-Systeme ausfallen. Zum Beispiel: Im Februar 2024 entschied ein kanadisches Gericht, dass Air Canada für Fehlinformationen haftbar ist, die ihr Chatbot mit künstlicher Intelligenz den Verbrauchern bereitgestellt hat.

In diesem Fall handelt es sich bei Chatbots um eine bewährte Technologie, was laut IT-Verantwortlichen nur zeigt, dass die Risiken offizieller Technologie bereits hoch genug sind. Warum also zulassen, dass die Schatten-IT unkontrolliert bleibt und das Risiko erhöht?

Zehn Möglichkeiten, eine Katastrophe zu vermeiden

Wie bei der Schatten-IT von gestern gibt es keine allgemeingültige Lösung, um den Einsatz nicht genehmigter KI-Technologie oder die Folgen ihres Einsatzes zu stoppen.

CIOs können jedoch eine Vielzahl von Strategien umsetzen, um den Einsatz nicht genehmigter KI zu verhindern, Katastrophen zu verhindern und das Ausmaß der Auswirkungen bei auftretenden Problemen zu begrenzen. Hier verraten IT-Führungskräfte 10 Möglichkeiten, wie CIOs Maßnahmen ergreifen können.

1. Entwickeln Sie eine akzeptable Nutzungsrichtlinie für künstliche Intelligenz

David Kuo, geschäftsführender Direktor für Datenschutz-Compliance bei Wells Fargo und Mitglied der Arbeitsgruppe für neue Trends der gemeinnützigen Governance-Vereinigung ISACA, sagte, der erste Schritt bestehe darin, mit anderen Führungskräften zusammenzuarbeiten, um eine akzeptable Nutzungsrichtlinie zu entwickeln, die darlegt, wann, wo und wie KI eingesetzt werden kann verwendet werden, und bekräftigen Sie das generelle Verbot der Organisation, Technologien zu verwenden, die nicht von der IT genehmigt wurden. Das klingt offensichtlich, aber die meisten Organisationen verfügen noch nicht darüber. Eine ISACA-Umfrage vom März 2024 unter 3.270 Fachleuten für digitales Vertrauen ergab, dass nur 15 % der Unternehmen über eine KI-Richtlinie verfügen (obwohl 70 % der Befragten angaben, dass ihre Mitarbeiter KI nutzen, und 60 % darauf hinweisen, dass ihre Mitarbeiter genAI nutzen).

2. Sensibilisierung für Risiken und Folgen

Kuo erkennt die Einschränkungen von Schritt 1 an: „Sie können eine akzeptable Nutzungsrichtlinie haben, aber die Leute werden gegen die Regeln verstoßen, also warnen Sie sie davor, was passieren könnte.“

Sreekanth Menon, globaler Leiter für KI/ML-Dienste bei Genpact, einem globalen Unternehmen für professionelle Dienstleistungen und Lösungen, sagte: „Die gesamte Organisation muss das Bewusstsein für KI-Risiken schärfen, und CIOs müssen diese Risiken proaktiver erklären und sie überall kommunizieren.“ Organisation. Risiken.“ beschreibt die allgemeinen Risiken, die mit KI verbunden sind, und die größeren Risiken, die mit der nicht genehmigten Nutzung der Technologie verbunden sind.

Kuo fügte hinzu: „Es kann keine einmalige Schulung sein oder einfach nur sagen: ‚Tu das nicht‘. Du musst sie über die [Schatten-KI]-Probleme aufklären, auf die du stoßen könntest, und über die Konsequenzen ihres schlechten Verhaltens.“ . ”

3. Verwalten Sie die Erwartungen

Fawad Bajwa, globaler KI-Praxisleiter beim Führungsberatungsunternehmen Russell Reynolds Associates, sagte, dass die KI-Einführung zwar schnell zunimmt, Untersuchungen jedoch zeigen, dass Führungskräfte weniger zuversichtlich sind, die Leistungsfähigkeit intelligenter Technologien zu nutzen. Bajwa glaubt, dass dieser Rückgang teilweise auf ein Missverhältnis zwischen den Erwartungen an KI und dem, was sie tatsächlich leisten kann, zurückzuführen ist.

Er rät CIOs zu verstehen, wann, wo, wie und in welchem Umfang KI Mehrwert schaffen kann.

„Wenn sich die gesamte Organisation darüber einig ist, was man erreichen möchte, kann man sein Selbstvertrauen kalibrieren“, sagt er. Dies wiederum hindert die Mitarbeiter daran, allein KI-Lösungen zu verfolgen, in der Hoffnung, ein Wundermittel zu finden, das alle Probleme löst. Ein weiterer hilfreicher Schritt, sagte Kuo: KI-Tools wie ChatGPT von OpenAI auf die schwarze Liste zu setzen und Firewall-Regeln zu verwenden, um Mitarbeitern den Zugriff auf Unternehmenssysteme zu verweigern. Erstellen Sie Firewall-Regeln, um zu verhindern, dass Unternehmenssysteme auf diese Tools zugreifen.

Preiswert einen neuen Akku, Batterien, Ladegerät online kaufen: Der Akkuokok.de mit getesteten Produkten! ✓ Schnelle Lieferung ✓ Hohe Qualität ✓ Sichere Ersatz-Akkus bestellen Sie hier!Jetzt günstig bestellen

Zehn Möglichkeiten, eine Schatten-KI-Katastrophe zu verhindern