WEF Davos 2024 hat dieses Jahr das Motto „Rebuilding Trust“ (Wiederherstellung des Vertrauens). Das Treffen ziehlt darauf ab:
“… die kollektive Handlungsfähigkeit wiederherzustellen und die Grundprinzipien der Transparenz, Kohärenz und Rechenschaftspflicht der Führungskräfte zu stärken.”
Eines der 3 Hauptthemen während dem WEF Davos ist Künstliche Intelligenz (AI/KI).
Wir waren 2019 und 2020 mit einer Gruppe dabei, publizierten und präsentierten z.B. das
- #WEF20 DrKPI PageTracker: CEO Ranking und
- Daten zum Dialog und Authentizität von Online Communication von #WEFDavos CEOs
- AI und KPI – WEF.
Auch dieses Jahr ist #DrKPI wieder dabei beim #WEF24 mit diesem Beitrag zu Themen wie z.B.
AI Trends & #WEF24: Zusammenfassung
1. Funktioniert unser Markt? Marktdominanz im Bereich von AI und Technik von Firmen wie Alphabet/Google, Amazon, Apple, Meta, Microsoft schafft Probleme.
Gerichte wurden zu dieser Problematik in den USA angerufen. Die EU versucht mit Hilfe des „Gesetz über digitale Märkte“ (siehe Punkt 9), Gegensteuer zu geben.
Vertrauen der Konsumenten in den „funktionierenden“ Markt sinkt. 2 Trends
2. Wie schafft die divergierende Regulierungslandschaft ein Gleichgewicht zwischen Innovation und gesellschaftlichen Risiken? Herausforderungen sind rechtliche & ethische Gesichtspunkte, sowie Nachvollziehbarkeit der von AI gefällten Entscheidungen. Beispiele und 3 Trends.
3. WEF Davos: AI 8 Punkte Check: Regulierungsentwicklung, technische Trends und Tipps. Was wir als Marketer, Ingenieurinnen und Vorstände beim Einsatz von AI Technologie im Auge behalten müssen.
2 Trends
4. WEF Davos: AI Cybersecurity NIST: Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations. Was wir als Entwickler und Nutzerinnen wissen müssen!
2023 war das Jahr des Durchbruchs für Large Language Models (LLMs). Ich denke, es ist in Ordnung, diese als KI zu bezeichnen wie z.B. ChatGPT.
Sie sind die jüngste und (derzeit) interessanteste Entwicklung im akademischen Bereich der künstlichen Intelligenz, die bis in die 1950er Jahre zurückreicht. Während 2019 AI noch wenig für Marketing anbot, ist es heute anders.
Auch die Herausforderungen ethischer und rechtlicher Art dürfen wir in den Diskussionen am WEF Davos 2024 nicht unterschätzen (siehe Download Bundesverband Marketing Clubs – AI – Gattiker, Temmen und Sinistra, 2019)
Intuitiv würde man erwarten, dass so leistungsfähige KI oder AI Systeme Millionen von Zeilen komplexer Codes benötigen.
Doch sind die AI Systeme recht einfach zu bauen, d.h. weniger als 350 Zeilen Python reichen aus, um eine Basisversion zu trainieren!
Lieder sind viele AI Anwendungen noch unzuverlässig. Wir diskutieren die Herausforderungen in diesem Beitrag.
1. Wie können wir KI zum Nutzen aller einsetzen?
Marktkonzentration im Technologiebereich ist seit längerer Zeit ein Thema für unser Team bei DrKPI aber auch z.B. in den EU Gremien und am WEF Davos.
1.1. Cloud Computing
In der EU haben Amazon, Microsoft, Google und IBM mehr als 75% des Cloud Computing Marktes. Dies in einem Markt der jährlich um gut 25% wächst und in dem Europas grösster Anbieter OVHcloud einen Anteil im tiefen einstelligen Bereich hat.
Für 2024 prognostizierten wir im DrKPI Newsletter Preissteigerungen von 20% und mehr. Anfang 2024 wissen wir, dass wir zu tief lagen. Die Marktdominanz hat dazu geführt, dass z.B. IBM die Preise um mehr als 26% erhöht hat.
Auch bei den Suchmaschinen gibt es im Markt Entwicklungen, welche die Gerichte beschäftigen. Daten in einem Gerichtsfall zeigen, dass Apple und Microsoft bereits 2018 und 2020 über eine mögliche Übernahme von Bing oder einem Joint Venture Gespräche geführt haben.
2023 bezahlte Alphabet Apple ca. US$ 18 – 19 Milliarden. Dies um sicherzustellen, dass Google die Standard-Suchmaschine auf iOS Devices bleibt. Auch die Stiftung Mozilla kassiert jährlich über US$ 50 Mio., sodass für Firefox die Standard-Suchmaschine Google ist.
1.2. Electric Vehicle (EV)
Auch bei den Elektroautos haben sich die Dinge stark entwickelt. Chinesische Unternehmen wie BYD und Nio zielen auf Überseemärkte ab, so dass die Regierungen hin- und hergerissen sind zwischen der Förderung sauberer Autos und dem Schutz ihrer eigenen Hersteller.
Im letzten Quartal 2023 übertraf BYD, das in Shenzhen ansässige und von Warren Buffetts Berkshire Hathaway-Gruppe unterstützte Unternehmen, zum ersten Mal Tesla und wurde damit zum weltweit größten Hersteller von rein batteriebetriebenen Autos.
BYD erzielt seine Umsätze hauptsächlich auf dem heimischen Markt, den es dominiert. Von den 5 Mio Autos das es produziert werden zur Zeit erst rund 250,000 im Ausland verkauft. Doch der Konzern ist einer von mehreren chinesischen Herstellern von Elektroautos, die sich dem Ausland zuwenden. BYD möchte z.B. Autos in Ungarn und Mexiko produzieren.
BYD verkauft bereits in mehr als 50 Ländern. In China hat das Unternehmen 5 Modelle auf dem Markt, die weniger kosten als die entsprechenden Modelle des Konzerns von Elon Musk.
Der Atto 3 von BYD, das billigste Modell des Unternehmens, wird in Europa für 38.000 Euro verkauft. Das Tesla Model 3 kostet in DE und FR rund 43.000 Euro. Wir erwarten, dass sich 2024 und 2025 vermehrt chinesische Hersteller erfolgreich in Europa und Amerika etablieren werden.
Hyundai mit der Schwestermarke Kia hat sich bei batteriebetriebenen Autos auf kleinere Limousinen und kompakte SUVs konzentriert. In den ersten drei Quartalen 2023 hat der koreanische Konzern Hyundai einen Marktanteil von 7,5% in den USA.
Ford kam auf 5,5% sowie Chevrolet / General Motors auf einen Marktanteil von 5,9% . Für Elektrofahrzeugverkäufe war und blieb Tesla weiterhin die Nummer 1 mit 57.4% der verkauften Elektrofahrzeuge in den USA.
Die obigen Ausführungen zeigen, BYD und Tesla sind die Marktleader. Hyundai folgt danach mit grossem Abstand, wie auch andere chinesische Hersteller, Ford, GM, Volkswagen, usw.
Doch wer macht das Rennen mit den Batterien? Diese Technologie ist entscheidend für den Erfolg. Hier sind chinesische Hersteller führend! Weiteres WEF Davos Thema.
1.3. Large Language Models (LLM) – Markt bewegt sich
We erwähnt, OpenAI oder ChatGPT basieren auf Large Language Models (LLMs). Ebenfalls können schon weniger als 350 Zeilen Python Code ausreichen, um eine AI Basisversion zu trainieren!
Im vergangenen Herbst trat der Baidu-Gründer Robin Li auf Podien in ganz China auf und richtete eine Botschaft an die Unternehmer, Geschäftsführer und Beamten des Landes: Hört auf, grosse Sprachmodelle zu entwickeln. Es sei sinnlos, mit Baidus Technologie zu konkurrieren, um generative Technologien für künstliche Intelligenz zu entwickeln, die in Sekundenschnelle menschenähnliche Texte, Codes und Bilder ausspucken können.
Der Grund ist, dass die Konkurrenz in China für auf LLMs basierter AI rasant steigt. Das macht es auch für Baidus “Ernie” schwer, sich im Markt durchsetzen zu können. Gab es im September 2023 ca. 70 grosse Modelle waren es im November schon 238.
Robin Li forderte seine Konkurrenten und Nutzerfirmen dazu auf, stattdessen Anwendungen für bestehende Modelle zu entwickeln, wie etwa „Ernie“ seines Unternehmens. Mit jeder Rede erwähnte Li mit Bedauern die immer grössere Anzahl von einheimischen Konkurrenten im AI Bereich.
Von etwa 70 grossen Modellen im September 2023 auf 238 im November!
Hier ist auch der SuperCLUE Benchmark, ein Benchmark-Ranking für LLMs in chinesischer Sprache sehr interessant. Der Benchmark besteht aus mehr als 4.000 Fragen. Das Ranking zeigt, dass immer mehr chinesische Hersteller an die vordersten Ränge heran arbeiten:
- 89.79 GPT4-Turbo (OpenAI)
- 75.14 GPT-4 (OpenAI)
- 74.02 Ernie 4.0 (Baidu)
- 72.88 Moonshot (Moonshot Al)
usw.
Die Herausforderung ist, dass die Regulierung in China sich kaum von den Gesetzen und Regularien in Europa oder den USA beeinflussen lässt. Dies diskutieren wir unter anderem unten.
3. Regularien / Gesetze: Gleichgewicht zwischen Innovation und gesellschaftlichen Risiken
2023 war das Jahr der KI-Innovationen, 2024 wird das Jahr des produktiven Einsatzes dieser Innovationen.
Unternehmen stellen ihre Beschäftigten die Kopiloten an die Seite, lassen KI ihre Kundenanfragen beantworten, Software entwickeln, die Buchhaltung erledigen oder Daten analysieren.
Microsoft, Alphabet (Google) und Nvidia dominieren den Markt. Doch nur Nvidia macht mit Hilfe von deren Grafikprozessoren und Chipsätzen für Personal Computer, Server und Spielkonsolen zur Zeit Geld im AI Bereich.
Der Preis der Nvidia-Aktie stieg 2023 um 249 % !
OpenAI oder ChatGPT basieren auf Large Language Models (LLMs). Das Überraschendste, was wir 2023 über LLMs gelernt haben ist, dass weniger als 350 Zeilen Python ausreichen, um eine Basisversion zu trainieren!
Doch wie unsere Ausführungen unten zeigen, es gibt rechtlichen und ethische Herausforderungen die gelöst werden müssen.
3.1. Überprüfbarkeit der Daten und Transparenz der Entscheidungskriterien
Hier gibt es 2 grosse Herausforderungen:
1. Sind die Daten überprüfbar? Vertrauen steigt in AI, wenn die Resultate überprüft werden können. Beispiel sind die von KI erstellten Wetterprognosen. Hier ist KI soweit, dass es beginnt, bessere Prognosen (siehe Google) zu liefern als herkömmliche Wettermodelle.
2. Trust und Transparenz in von AI gemachten Entscheidungen. Wenn die Kriterien, welche AI nutzt, nicht transparent sind, gibt es Widerstand wegen möglicher Diskriminierung. Beispiel England, wo KI darüber entscheidet wer eine Transplantation bekommt und wer nicht. Eine offizielle Liste der Kriterien gibt es nicht.
Nach viel Arbeit stellte sich heraus, obwohl oft wegen ungesundem Lebenswandel eine Transplantation notwendig ist, werden ältere Patienten gegenüber jüngeren mit besseren Lebenswandel, z.B. weniger Alkoholkonsum, bei der Auswahl bevorzugt.
3.2. Einhaltung der Urheberrechte
Die Beispiele oben zeigen, dass AI auf Vertrauen stösst, wenn dessen Leistung wie bei Wetterprognosen überprüft werden kann. Sind die Entscheidungskriterien aber nicht bekannt oder kann das Resultat nicht überprüft werden, sinkt das Vertrauen.
Zwei weitere Herausforderungen sind:
1. Copyrightschutz von KI erstellter Sofware und Kunst. Hier zeigt ein 2023-10 Gerichtsurteil aus den USA, dass mit Hilfe von einem KI Programm / Software erstellte “Kunst” kein Copyrightschutz erhält.
2. Training von AI und urheberrechtlich geschützte Daten: Die Beweislast verlangt hier, dass ein Erfinder oder Hersteller einer KI beweisen kann, dass die AI nicht mit Hilfe von urheberrechtlich geschützten Daten trainiert wurde.
Es gibt viele Fälle, in denen Urheberrechte zu Unrecht verletzt werden, zuletzt bei der Verwendung von Bildern und Texten zum Training von Modellen der künstlichen Intelligenz. Die New York Times verklagte am 2023-12-27 OpenAI und Microsoft wegen der unerlaubten Nutzung ihres Materials durch ChatGPT: Stellt man die richtigen Fragen, wird das vermeintliche Orakel grosse Teile der Arbeit von NYT-Journalisten einfach wiederkäuen lautet die Anklage in etwa.
3. Von AI generierte Deep-Fake News: Dieses Phänomen als Deep Fake bekannt, beschreibt täuschend echte, durch Technologie manipulierte Inhalte. Die Republikanische Partei machte den Sprung in ein neues Zeitalter, als sie im April 2023 zum ersten Mal ein Kampagnenvideo veröffentlichte, das vollumfänglich mit künstlicher Intelligenz erstellt worden war (siehe auch GOP Releases First Ever AI-Created Attack Ad Against President Biden).
Der erste Gerichtsbeschluss in der Schweiz, datiert vom 20. November, ist nun im Januar 2024 rechtskräftig geworden. Der Schweizer SVP-Nationalrat Andreas Glarner (Kanton AG) setzte im Wahlkampf im Oktober 2023 künstliche Intelligenz gegen Grünen-Nationalrätin Sibel Arslan (Kanton Basel) ein.
Arslan wurden darin politische Aussagen zugeschrieben, die im Widerspruch zu ihren tatsächlichen Überzeugungen stehen. Das Video war zumindest gekennzeichnet: “Mit Ki erstellt”. Es wurde auf Twitter und Instagram von Nutzern fleissig geteilt.
Sibel Arslan wählte den Weg über die Justiz. Sie erwirkte mittels superprovisorischer Verfügung, dass Glarner das Video von X/Twitter und Instagram schon innerhalb eines Tages löschen musste.
Der Beschluss eines Schweizer Gerichts ist nun rechtskräftig. Darin wird Glarner zu einer Geldstrafe verurteilt in der Höhe von CHF 4,000. Das Urteil setzt sich aus 1500 Franken Gerichtskosten und 2342.50 Franken Anwaltskosten für Arslan zusammen.
Dez. 23 Woche sorgte eine spanische Werbeagentur für Schlagzeilen, als sie enthüllte, dass sie eine KI-Figur erschaffen hat, die nun ca. 10.000 Euro pro Monat mit Markenverträgen verdient.
3.3. China
Chinas Cyber-Regulierungsbehörde hat 2023 neue Regeln herausgegeben. Diese verlangen unter anderem, dass durch Large Language Models (LLMs) generierte Inhalte „sozialistische Grundwerte verkörpern.“
Das Regularium legt ebenfalls fest, dass Tech-Unternehmen für die Ergebnisse von LLMs verantwortlich gemacht werden. Deshalb waren einige Baidu-Mitarbeiter besorgt, dass der Baidu Chatbot versehentlich Chinas rote Linien für zulässige Sprache überschreiten könnte.
Was alles in China passiert wird in Europa oder Nordamerika oft entweder ignoriert oder ist unkbekannt. Doh wie oben angezeigt, gilt es diese Entwicklungen zu berücksichtigen oder wir werden böse Überraschungen erleben.
3.4. Interoperabilität von AI / KI
Das EU Gesetz über digitale Märkte geht hier relativ pragmatisch vor. Die EU hat 6 Firmen zu Social Gatekeepers unter dem Digital Markets Act bestimmt. Diese Unternehmen haben eine Frist bis März 2024, um mit dem neuen Gesetz der Europäischen Kommission über digitale Märkte in Einklang zu kommen.
Als Antwort darauf hat Apple 2023-11-16 bekannt gegeben, dass es den Nachrichtenaustausch zwischen iPhones und Androiden vereinfachen will.
Bis Mitte 2025 könnte der Digital Markets Act Apple sogar dazu zwingen, iMessage für Konkurrenten wie WhatsApp zu öffnen. Dies gilt natürlich auch für andere Apps wie Signal, Threema, usw. und umgekehrt.
Eine Threema Nutzer könnte dann mit einem iMessage Nutzer kommunizieren, was heute natürlich nicht möglich ist.
3.5. Amazon: Marktdominanz im AI Bereich
Das Gesetz zu den digitalen Märkten (Digital Markets Act – Punkt 9 in Tabelle) hat Amazon gezwungen, in seinem Bericht an die EU Kommission einige Zahlen zu veröffentlichen.
In den neun Monaten bis zum 30. September verzeichnete Amazon 96 Milliarden Dollar an Provisionen und Gebühren, die von Verkäufern gezahlt wurden.
Dies entspricht einem Anstieg von fast 20 Prozent, gegenüber dem gleichen Zeitraum des Vorjahres.
In dem Masse, wie der Marktplatz gewachsen ist, musste Amazon mehr tun, um ihn zu kontrollieren.
In der ersten Hälfte des Jahres 2023 hat Amazon in seinem EU-Store
- 274 Mio. „Aktionen“ als Reaktion auf potenzielle Richtlinienverstösse und andere vermutete Probleme durchgeführt, darunter die Entfernung von Inhalten und
- 4,2 Mio. Kontosperrungen.
Die Problematik hier ist, dass es für Verkäufer auf Amazon schwierig ist und teuer sich gegen diese Reaktionen von Amazon zu wehren.
Dies ist besonders ärgerlich, wenn diese Anschuldigungen von Amazon oder einem Konkurrenten ungerechtfertigt sind. Bis dahin hat der Verkäufer nur das Schiedsverfahren (Arbitration), um sich zu wehren. Den Weg vor ein Gericht gibt es nicht.
Amazon behält in der Regel alle Gelder ein, die sich auf dem Konto des Verkäufers befinden, der wegen angeblicher betrügerischer oder missbräuchlicher Praktiken gesperrt wurde.
Es kann diese Gelder einbehalten, wenn das Konto nicht wiederhergestellt wird. Das kann dem Amazon Verkäufer sehr teuer zu stehen kommen.
EU bringt mehr Transparenz aber leider nicht mehr Rechte für den Online Händler auf Amazon. Die Problematik trifft aber auch für andere E-Commerce Plattformen wie Zalando oder Tencent zu.
3.6. Apple: iOS-Ökosystem
Die Gesamteinnahmen, werden immer noch vom Verkauf von Geräten wie dem iPhone dominiert . Doch ist der Anteil am Gesamtumsatz von Apples Dienstleistungsbereich stetig gestiegen.
Apples 85-Milliarden-Dollar-Jahresumsatz im Dienstleistungsbereich umfasst die Einnahmen aus dem App Store, dem Videostreaming und Apple Music.
Der grösste Schlag für den iPhone-Hersteller könnte von einem US-Kartellverfahren gegen Google kommen.
Bei diesem hat sich unter anderem herausgestellt, dass Google im Jahr 2021 mehr als 26 Milliarden Dollar gezahlt hat, um seine Suchmaschine als Standard auf Apple-Geräten und anderen Smartphones und Browsern zu verwenden.
Der Gerichstsentscheid wird im Mai 2024 erwartet.
Die EU Verordnung zu digitalen Märkten (Digital Markets Act – Punkt 9 in Tabelle) hat dazu geführt, dass sich Apple darauf vorbereitet, das so genannte „Sideloading“ zu erlauben.
“Sideloading” ermöglicht es iPhone-Nutzern, den Apple App Store zu umgehen und Apps von anderen Anbietern herunterzuladen. Sideloading könnte sich auf den App Store Einnahmen auswirken. Heute verlangt Apple von Entwicklern eine Gebühr von bis zu 30 Prozent für digitale Käufe.
Nach Schätzungen des Marktforschungsunternehmens Sensor Tower nimmt Apple pro Quartal zwischen 6 und 7 Mrd. Dollar an Provisionen aus dem App Store ein.
3.7. USA Securities and Exchange Commission (SEC) macht Nägel mit Köpfen
Die USA Securities and Exchange Commission (SEC) hat am 2024-01-04 entschieden, dass Disney und Apple über Anträge von Aktionären im Zusammenhang mit künstlicher Intelligenz abstimmen müssen.
Die American Federation of Labor und der Congress of Industrial Organizations, der größte Gewerkschaftsverband in den USA hatten die Vorständen der beiden Unternehmen dazu aufgefordert.
Wenn diese Anträge von Aktionären angenommen werden, müssen die Unternehmen einen Transparenzbericht über den Einsatz von künstlicher Intelligenz in ihren Unternehmen erstellen. Ebenfalls müssen alle von ihnen angenommenen ethischen Richtlinien offen gelegt werden.
Der Gewerkschaftsverband forderte auch Disney auf, die Rolle seines Vorstands bei der Überwachung der KI-Nutzung offenzulegen.
4. WEF Davos 2024 Diskussion: Mehr Innovation und faire Nutzung von AI
Was jetzt? Beginnen Sie, KI produktiv im Unternehmen zu nutzen. Versuchen geht über studieren. Nutzen Sie was geht. Lernen Sie möglichst rasch von Fehlern.
Hier kommt die Checkliste mit 8 Trends die Ihnen helfen sollte auf mögliche Entwicklungen gewappnet zu sein.
4.1. 8 Punkte AI Checkliste WEF Davos 2024: Innovative und faire Nutzung dank Regulierung
Siehe auch Download Bundesverband Marketing Clubs – AI – Gattiker, Temmen und Sinistra, 2019
| Trend | 2024 Prognose | 2025 Prognose | Erhofftes Ergebnis |
| 1. Markt- regulierung 1 | Ab Herbst 2024 wird der Nachrichtenaustausch zwischen iPhones und Android Smartphones möglich sein. | Reduziert die Dominanz von iPhone da z.B. auch Android Nutzer iMessages nutzen können. MessageWeitere Chat/Internet Telefonieprogramme sich im Markt etablieren zu können. | |
| 2. Markt- regulierung 2 | „Sideloading“ setzt sich langsam aber sicher beim Apple und Android Store durch. | Für z.B. WhatsApp iMessages oder Threema, Signal Nutzer wird das sich gegenseitige senden von Messages ab Frühjahr/Sommer 2025 möglich sein. | Wechsel von einem zum anderen Chat Programm aus Cybersecurity oder Usability Gründen wird für Nutzer einfacher. “Sideloading” ermöglicht es z.B. iPhone-Nutzern, den Apple App Store zu umgehen und Apps von anderen Anbietern herunterzuladen. |
| 3. Urheber- rechte 1 | AI Anbieter suchen vermehrt nach Lösungen, um zu beweisen, dass beim Training der KI keine Gesetze wie das Urheberrecht verletzt wurden. | Besserer Schutz der Urheberrechte. | |
| 4. Urheber- rechte 2 | Erste Systeme, die Firmen helfen zu „beweisen“, dass die Lösungen / Produkte, welche mit KI erstellt wurden, keine Rechte verletzen, werden ab Sommer/Herbst 2024 angeboten. | Vereinfacht die notwendige Beweisarbeit das keine Urheberrechte verletzt wurden. | |
| 5. Urheber- rechte 3 | Vereinfachung des Auditing von AI Systemen wird die Norm. Hilft Fairness und Korrektheit in der Anwendung transparenter zu machen. | Compliance in Sachen möglicher Verwürfe wegen Diskriminierung, Bias/Vorurteile und Fehlerquellen bei Entscheiden der AI-Systeme wird verbessert. | |
| 6. Handel 1: Markt- dominanz | Gerichtsurteile zwingen AI Anbieter den Wechsel im Cloud-, E-Commerce Bereich zu verbessern. | Rechte von Nutzern und Verkäufern auf E-Commerce Plattformen wird durch Regulierung stark verbessert. | Portabilität von Daten von E-Commerce Plattform A nach Plattform B wird vereinfacht. |
| 7. Markt- dominanz 2 | Transparenz & Korrektheit von AI Entscheidungen wird gesetzlich geregelt. | Portabilität von Daten von AI A nach KI B Anbieter wird vereinfacht. | |
| 8. Aktionäre und AI | Erste Anforderungen an Board of Directors / Aufsichtsräte in Sachen AI transparenter zu informieren (z.B. Apple, Disney). | Bericht an Shareholders zum Thema AI Nutzung und Compliance in Sachen ethischer Richtlinien wird zur Pflicht für börsenkotierte Unternehmen. | Best Practice: Jährlicher Transparenzbericht über den Einsatz von KI im Unternehmen sowie Umsetzung von ethischen Richtlinien. |
Notiz. WEF Davos 2024 „Rebuilding Trust“ (Wiederherstellung des Vertrauens) für Artificial Intelligence: Gute Regulierung hilft.
5. Fazit WEF Davos und KI: Rebuilding Trust ist ein Marathon
Unsere Nachricht für WEF DAvos 2024 Teilnehmer:innen ist: Rebuilding Trust in Märkte, KI und Marketing generell bleibt eine nimmer endende Aufgabe.
Von AI generierte Fotos sind ein Übel, doch gibt es Schlimmeres, auch wenn IT Security Experten wie Matthias Held dies vielleicht anders sehen. Beispielsweise die Deep-Fake News während den Abstimmungskampagnen in der Schweiz und den USA 2023.
Die Nachrichtenverlage wehren sich z.B. gegen KI, weil sie mit zwei Problemen konfrontiert sind:
1. Verleger und Inhaltsersteller werden nicht fair für die Inhalte bezahlt, die zum Trainieren dieser Modelle verwendet werden und
2. KI ist auch im Begriff, die Art und Weise, wie Verbraucher online nach Informationen suchen, ernsthaft zu stören. Wenn Sie einem Chatbot wie ChatGPT von OpenAI oder Bard von Google eine Frage stellen, werden Sie nicht auf die Website des Urhebers weitergeleitet. Stattdessen erhält man die Antwort direkt. Das heisst, Nutzer bleiben im „Walled Garden“ des jeweiligen Big-Tech-Unternehmens, dem die Plattform für künstliche Intelligenz gehört.
Die Tatsache, dass die KI auf genau den urheberrechtlich geschützten Inhalten trainiert wurde, die sie umgehen soll, macht die Sache noch schlimmer.
Eine aktuelle Studie schätzt, dass, wenn Google den US-Verlegern 50 Prozent des durch ihre Nachrichteninhalte geschaffenen Wertes gäbe, die Firma jährlich zwischen 10 und 12 Milliarden Dollar ausgeben müsste. Derzeit erhält die New York Times – einer der grössten Nachrichtenverlage – lediglich 100 Millionen Dollar (Working Paper) über 3 Jahre.
Es gilt also, weiterhin wachsam zu sein und darauf zu achten, dass die Rechte aller Marktteilnehmer wie Provider, Nutzer und Kunden von AI Entwicklungen nicht verletzt werden.
WEF Davos: Diskussionen, doch hat das Ganze eine Auswirkung auf die AI Entwicklung?
„Launching policy ideas from outside government is like dropping pennies into a deep well.“
Joseph Nye – A Life in the American Century
Das gilt wohl auch für das WEF: „die Einführung politischer Ideen von ausserhalb der Regierung ist so, als würde man einen Groschen in einen tiefen Brunnen werfen“ (siehe auch Interview with Joseph Nye).
5.1. 3 Fragen vom WEF Davos 2024 zu AI
2023 war ein „Jahr des staatlichen Handelns“ in Bezug auf die KI-Forschung und die Festlegung von Regeln weltweit.
2024 sollte ein Jahr werden, in welche diese Regeln intelligent und zum Vorteile aller Nutzerinnen und Bürgerinnen umgesetzt werden. Es gibt viel zu tun.
Die Fragen vom WEF 2024 und kurze Antworten dazu finden sie gleich hier:
A – WEF Davos: Wie können wir KI zum Nutzen aller einsetzen?
Antwort: Mit Reduzierung der Marktdominanz von einigen Anbietern.
B – WEF Davos: Wie schafft die divergierende Regulierungslandschaft ein Gleichgewicht zwischen Innovation und gesellschaftlichen Risiken?
Antwort: Mit möglichst schneller Verbesserung der Regeln und den Gesetzen und deren Anpassung wenn nötig.
C – WEF Davos: Wie wird KI mit anderen transformativen Technologien wie 5/6 G, Quantencomputing und Biotechnologie zusammenwirken?
Antwort: Es wird die Dinge schwieriger machen, d.h. die Auswirkungen von Fehlern oder Diskriminierung werden grösser und müssen möglichst schnell korrigiert werden.
- Nächster Schritt: Wir helfen Ihnen gerne beim AI für Ihr Produkt. Einen kostenlosen Termin gibt es hier.
Über DrKPI® – CyTRAP Labs
Gerne beraten wir Sie in allen Fragen rund um die Themen Digital Marketing, SEO Analytics und Cybersecurity und dem gewinnbringenden Einsatz von KI.
Wir helfen Ihnen mit unserer langjährigen Erfahrung bei der professionellen, effizienten und erfolgreichen Umsetzung Ihrer Digital Marketing Strategie — z.B. mit den richtigen KPIs aus dem DrKPI® PageTracker – oder beim Aufbau von Ihrem Vulnerability Disclosure Programm (VDP).
Wir unterstützen Sie bei der Projektplanung, dem Prozess-Management, mit der VDP, AI Umsetzung und dem Controlling
22 Antworten
Das NIST hat ein Dok publiziert zu:
Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
Es zeigt sehr gut auf, wie AI Systeme attackiert werden können. Lohnt sich das Ding runter zu laden.
Lieber Peter
Danke für den Hinweis zum Thema Cybersecurity und AI Systeme.
Der NIST Leitfaden beschreibt verschiedenen Arten von Angriffen auf AI Systeme.
Es warnt Entwickler und Nutzer von Systemen der künstlichen Intelligenz KI, dass es derzeit keine narrensichere Methode zum Schutz solcher Systeme gibt.
Die Behörde ermutigt die Gemeinschaft, nach besseren Schutzmaßnahmen zu suchen.
Der Bericht behandelt sowohl prädiktive als auch generative KI.
Vassilev, Apostol, Oprea, Alina, Fordyce, Alie & Anderson, Hyrum (2024-01). NIST AI 100-2 E2023 Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations. Aufgerufen am 13. Jan. 2024 auf https://csrc.nist.gov/pubs/ai/100/2/e2023/final (summary page, with download pdf document).
Hi Urs
Interessanter Beitrag. Finde auch das Addendum oben zur Cybersecurity und AI sehr interessant.
Das Dok. von NIST ist sehr hilfreich.
Gleich den Link weitergeschickt, speziell da wir ja auch AI im Betrieb nutzen. Da ist auch Cybersecurity ein Thema.
Ida
Ida
Ja AI wird immer mehr in Betrieben genutzt obwohl nicht immer klar ist ob es primär Machine Learning beinhaltet, wie NIST ja auch im Titel vom Dok. schreibt.
Zur Info, Deloitte, das Wirtschaftsprüfungs- und Beratungsunternehmen der Big Four, führt im Oktober im Vereinigten Konigreich den generativen Chatbot PairD ein.
Nun wird er für alle 75.000 Mitarbeiter in Europa und im Nahen Osten eingeführt, um die Produktivität zu steigern.
Im Gegensatz zu Wettbewerbern, die sich mit Unternehmen wie OpenAI und Harvey, dem Hersteller von ChatGPT, zusammengetan haben, wurde der KI-Chatbot von Deloitte intern vom KI-Institut des Unternehmens entwickelt.
Laut Deloitte kann PairD von den Mitarbeitern genutzt werden, um E-Mails zu beantworten, schriftliche Inhalte zu verfassen oder um Code zu schreiben.
Ebenfalls hilft es Aufgaben zu automatisieren, Präsentationen zu erstellen, Recherchen durchzuführen und Tagesordnungen für Meetings zu erstellen.
Bin gespannt, wie hier die Urheberrechte geschützt sind und Cybersecurity gewährleistet ist?
Urs
DrKPI CyTRAP Labs
Nur kurz zum Thema Elektrische Fahrzeuge EV (siehe auch oben im Beitrag) und China.
2023 hat Volkswagen rund 5 Milliarden EUR in den größten Automarkt China investiert.
Trotzdem ist es Volkswagen ist es nicht gelungen, in China gegenüber Konkurrenten wie Tesla und BYD Boden gut zu machen.
Fritz
Lieber Fritz
Merci für diesen Hinweis…
Was ich auch interessant finde ist, dass VW ein Wachstum von 23 % bei den E-Fahrzeugen in China verzeichnete in 2023.
Verglichen mit 36% im gesamten chinesischen E-Fahrzeugmarkt ist dies natürlich unbefriedigend.
Dies umso mehr da VW mindestens die Hälfte seines Jahresgewinns in China realisiert.
PS. 2023 wurde die Marke VW als meistverkauftes Auto des Landes von BYD entthront.
Noch mehr Info zu VW mit AI.
Volkswagen plant die Integration von ChatGPT in seine Sprachassistententechnologie in Fahrzeugen ab dem 2ten Quartal dieses Jahres, sagte das Unternehmen 2024-01-08 – Montag.
Im Moment verbessere ChatGPT die bestehenden Sprachsteuerungsmöglichkeiten, sagte ein Sprecher von Volkswagen.
Fahrzeugführer können dem Auto mitteilen, dass sie erkältet sind.
Theoretisch würde ChatGPT dann Erkältungsmedikamente empfehlen und den Weg zum nächsten Geschäft zeigen, in dem der Fahrzeughalter diese abholen kann.
Interessant vom 2023-01-14:
Die Edelman-Umfrage, die zu Beginn des WEF-Treffens unter dem Motto „Wiederaufbau des Vertrauens“ veröffentlicht wurde, ergab, dass
– 39 % der Befragten, die gefragt wurden,
….. ob sie Unternehmen und Nichtregierungsorganisationen bei der Einführung von Innovationen und
….. den Regierungen bei deren Regulierung vertrauen,
angaben, dass dies (Einführung von Innovationen) schlecht gehandhabt werde.
ANTWORT 1
Liebe Sibylle
Danke für diesen Hinweis, das ist ja ganz neu und die Edelmann Crew released diese Studie ja immer beim World Economic Forum
Als Download ist diese hier erhältlich: 2024 Edelman Trust Barometer. Innovation in Peril
ANTWORT 2 KOMMT UNTEN
Urs
ANTWORT 2
Eine Interpretation dieser Daten, wie das obige Bild zeigt, ist aber nicht einfach.
Beispielsweise, welche Frage haben die Leute genau beantwortet um diese Prozentzahlen im obigen Image zu erhalten.
Waren es 4 Fragen welche einzeln beantwortet wurden zum Thema – Vertrauen wir in diese Organisationen bei der Einführung von Innovationen in Sachen:
– Sicherheit (Safe),
– Verständnis,
– Vortheilhaft und betreffend
– Zugänglichkeit (Accessible/Accessibility)?
Oder war das nur eine Fragen zu allen 4 Themen. Nicht klar wenn man die Fragen ab Seite 54 durchgeht.
Auch wie die Prozentzahlen erreicht wurden ist auf das Erste nicht klar ersichtlich.
Interessante Studie, aber die Resultate sind mit vorsichtig zu geniessen.
Schöne und erfolgreiche Woche wünsche ich Dir Sibylle in Davos.
Urs
DrKPI CyTRAP Labs
ANTWORT 3
Unten zeigt sich (siehe S. 50 im Edelman Report), dasd die Teilnehmerinnen, eine Frage vorgesetzt erhalten, di man so gar nicht beantworten kann:
„TRU_INS_TCNG. Below is a list of institutions. For each one, please indicate how much you trust that institution to do what is right when it comes to ensuring that the introduction of new technologies and innovations into society is well-managed (e.g., they are safe, understood by the public, beneficial to society as a whole, and accessible to the people who need them). – reverse scored“
Antwortet die Teilnehmerin, die Frage mit Fokus auf Sicherheit, Bevölkerung versteht die Technologie, Vorteile für die ganze Gesellschaft und jeder hat Zugang zur Technologie der sie braucht (they are safe, understood by the public, beneficial to society as a whole, and accessible to the people who need them)?
Wenn ich nicht weiss, aus welcher Perspektive die Frage beantwortet wurde, kann ich die Resultate auch nicht eindeutig interpretieren!
ANTWORT 4
Diese Grafik auf S. 6 im Edelman Trust Barometer zeigt auf, wie schwierig es ist diese Dinge zu bwerten. Die numerischen zahlen von den Antworten oben (Antwort 3 Grafik) werden in Prozentzahlen umgewandelt.
Die ProzentSkala ist interessant. Doch was positiv, negativ bewertet wird ist schwer verständlich z.B. 50 – 59 neutral, warum nicht 40 – 59, etc. 👉 Schwierig diese Daten zu interpretieren als Entscheidungsträgerin. 🔥 Deren Validität is fraglich 🔥
Danke für diesen sehr interessanten Eintrag.
Dachte, es ist vielleicht noch wichtig, OpenAIs kundenspezifischer GPT-Store wurde eröffnet
Der GPT-Store von OpenAI ist nach einer monatelangen Verzögerung endlich gestartet.
Der Shop ermöglicht es Nutzern, benutzerdefinierte Chatbots zu teilen, wodurch mehr potenzielle Anwendungsfälle für ChatGPT entstehen und das Ökosystem von OpenAI erweitert wird.
Hier kopiert Open AI Apples Erfolgsgeheimnis, d.h. Open AI entscheidet was in den Store reinkommt und was rausfliegt… und verdient Geld.
Auch hier könnte sich daraus eine Marktdominanz oder sogar Monopol ergeben.
Laut OpenAI wurden seit der Ankündigung des GPT-Builder-Programms im November mehr als 3 Millionen Bots von Nutzern erstellt. Nur Personen, die die kostenpflichtigen Stufen von OpenAI abonnieren, können eigene GPTs erstellen und nutzen.
ANTWORT 1
Danke für das Feedback Giovanni
Ja es wird sich zeigen wie streng die Regeln und Kontrollen sein werden für den Open AI App-Store für künstliche Intelligenz.
Schon heute gibt es KI-Apps im Store für Wanderungen, Kochen, usw.
Wichtig ist hier ja auch zu verstehen, das Open AI von den anderen KI-Apps lernen wird, um dann diese Funktionen in die eigene App einzubauen.
Passiert schon heute bei Amazon, wo erfolgreiche Produkte wie z.B. Outdoor Kleidung auf der Plattform von Amazon nachgemacht wird und dann unter einem eigenen Brand verkauft wird (siehe VAUDE beim MC Lago).
PS. Laut OpenAI wurden seit der Ankündigung des GPT-Builder-Programms im November mehr als 3 Millionen Bots von Nutzern erstellt.
Wichtig ist hier zu wissen, dass nur Personen, die die kostenpflichtigen Stufen von OpenAI abonnieren, eigene GPTs erstellen und nutzen dürfen.
ANTWORT 2
Schon 2019 war AI KI ein Thema beim Marketing Club Lago – siehe auch Daimler Vorstand Renata Jungo Brüngger – Daimler Vorstand – mehr zum AI Thema.
Kurze AI Zeitreise: 2018 war Marketing hier beim KI Thema – fast soweit wie heute 😀
Grüessli
Urs
DrKPI CyTRAP Labs
Nice meeting you at WEF Davos #WEF24
This is a really nice Blog entry, even though I translated the piece…
I find the 8 Trends particularly well done… we have a few challenges to manage.
Thanks Sundar
Very nice to hear from you… before we even see each other again at the AI Session.
Yes, what is surprising at the #WEFdavos
Nobody talks about the challenges….
Also pretty much a USA viewpoint… and Developing Countries are pretty much ignored.
Have a great day, see you later.
Urs
DrKPI CyTRAP Labs
Hi Urs
Nice Meeting you in the Equality Lounge #WEFdavos.
I thought I add this site to the comments
„President Joe Biden’s “Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence.”
It has a nice bunch of links to policies, executive briefs, and so forth regarding evolving AI policy in the US.
https://www.whitehouse.gov/omb/briefing-room/2023/11/01/omb-releases-implementation-guidance-following-president-bidens-executive-order-on-artificial-intelligence/
Hi Francine
Thanks for leaving a comment here on our blog.
Yes I went and checked out the link you sent, very interesting resource from the White House
Thanks and yes, nice meeting you as well. Hope our paths cross again soon.
Urs
DrKPI CyTRAP
Just so we are all on one page….
The mit AI generierten Fake Fotos von Talyor Swift haben auf Twitter / X einen Sturm ausgelöst.
Die grossen Tech Firmen werden zu diesem Problem im US Congress nächstens befragt.
Das hat auch Auswirkungen auf AI bei der kreativen Arbeit für das Branding, Werbung, usw.
Am Mittwoch 31 Jan. 2024 werden Führungskräfte der sozialen Medien, darunter
– Linda Yaccarino von X,
– Mark Zuckerberg von Meta und
– Shou Zi Chew von TikTok,
bei einer Anhörung des Justizausschusses des US-Senats zum Thema sexuelle Ausbeutung von Kindern im Internet befragt.
Dies nachdem sich die Bedenken häufen, dass ihre Plattformen nicht genug zum Schutz von Kindern tun.
Danke für diesen Input.
Das Ganze ist auch ein Problem für das Marketing, Fragen müssen beantwortet werden und vielleicht braucht es auch regulatorische Arbeit, wie z.B.:
1. inwiefern nutzen wir AI generierte Fotos im Marketing?
2. Wann akzeptieren wir eine Fälschung und wann nicht (z.B. politische Werbung – Beispiele – klick)
3. Wie überprüfen wir diese Problematik, d.h. wann ist ein Bild gefälscht und wann sind z.B. Bearbeitungen akzeptabel (das hat auch mit dem Copyright/Urheberrecht zu tun)?
Vieles ist hier nicht klar, seit Frühjahr 2023 gibt es hier eine Gesetzesvorlage in den USA die Abhilfe schaffen könnte wenn dieser Vorschlag angenommen wird.
Representative Joe Morelle – Preventing Deepfakes of Intimate Images Act
Taylor Swift – AI generiertes fake Image im Web
Letzte Woche haben die US-Repräsentanten. Joseph Morelle (D-NY) und Tom Kean (R-NJ) erneut einen Gesetzentwurf eingebracht:
🔥 H. R. 3106 – Preventing Deepfakes of Intimate Images Act. 🔥
Dieser würde die nicht einvernehmliche Weitergabe von digital veränderten pornografischen Bildern zu einem Bundesverbrechen machen. Das könnte mit Gefängnisstrafen, Geldstrafen oder beidem geahndet werden.
Auch das Weisse Haus macht was:
🔥 Präsident Joe Biden unterzeichnete im Oktober 2023 eine Durchführungsverordnung zur weiteren Regulierung von KI 🔥 .
Diese Verordnung soll u.a. verhindern, dass generative KI Material über sexuellen Kindesmissbrauch oder nicht einvernehmliche intime Bilder von realen Personen produziert werden.
Dies beinhaltet auch die weitere Überwachung der Verwendung der Technologie bei der Entwicklung biologischer Materialien.
UND
🔥 2023-11-01 OMB Releases Implementation Guidance Following President Biden’s Executive Order on Artificial Intelligence . 🔥
Und auch noch die EU:
🔥 EUs AI Pact 🔥