Trotz einiger öffentlich bekannter Stolpersteine haben Modelle der künstlichen Intelligenz wie ChatGPT auf beeindruckende Weise Aufgaben bewältigt, die von der Recherche von Hausarbeiten über das Schreiben von Computercode bis hin zum Verfassen von Sonetten über den Klimawandel im Stil von Shakespeare reichen. Es ist also faszinierend, darüber nachzudenken, welchen Unterschied sie machen könnten, wenn sie zu etwas beitragen, bei dem die Bedürfnisse dringend sind und es oft um Leben und Tod geht.
Als Wissenschaftler, der sich auf die Schnittstelle zwischen Kommunikation, Datenwissenschaft und Technologie konzentriert, forscht Dr. Larry Zhiming Crowdfunding-Plattformen, um auf eine breite Online-Spenderbasis zuzugreifen und so bei der Finanzierung lebenswichtiger medizinischer Versorgung zu helfen.
Während sich seine frühen Arbeiten auf die Fähigkeit von Crowdfunding konzentrierten, etwas Bemerkenswertes zu bewirken – die übliche Zurückhaltung von Menschen, Geld an Fremde zu geben, zu überwinden, oft durch die Nutzung von Affinitäten wie gemeinsamen Erfahrungen mit derselben Krankheit –, haben neuere Studien die allzu menschlichen Probleme aufgedeckt Das führt dazu, dass diese Kampagnen scheitern. „Wenn ich Geld für ein Familienmitglied sammeln muss, muss ich verzweifelt sein“, erklärt Xu. „Wahrscheinlich fehlen mir die Zeit, Energie und Ressourcen, um eine gute Geschichte zu schreiben, Fotos zu machen oder vielleicht ein Video zu drehen. Dabei sind das tatsächlich sehr wichtige Dinge, um die Leute davon zu überzeugen, dass ich das aus legitimen Gründen tue.“
Daher war es für Xu selbstverständlich, sich zu fragen, welche Rolle generative KI bei der Verbesserung der Crowdfunding-Bemühungen der Menschen spielen könnte – und welche praktischen und ethischen Probleme diese Unterstützung mit sich bringen könnte.
Dies seien keine rein akademischen Fragen mehr, stellt Xu fest. Crowdfunding-Plattformen wie AngeLink und GiveAsia verfügen über integrierte Tools, die Benutzern dabei helfen, ihre Kampagnen mit „KI-gestütztem Storytelling“ zu verfeinern. Und Menschen, die mit hohen Arztrechnungen konfrontiert sind, können ihre Fundraising-Entwürfe über einen KI-Assistenten wie ChatGPT laufen lassen, der ihnen beim Schreiben hilft.
„Jetzt, da KI das Potenzial hat, Menschen bei diesen Kampagnen zu helfen, ist sie, wenn sie tatsächlich eingesetzt wird, wirklich hilfreich? Erhöht es die Effektivität und Vertrauenswürdigkeit oder treten unbeabsichtigte Folgen auf?“
Dr. Larry Zhiming Xu
Das war ein weiterer Grund für Xu, in Aktion zu treten und Fakultätskollegen aus den Bereichen Informatik und Informationssysteme zu rekrutieren, um an zwei Forschungsstudien mitzuarbeiten, die durch ein Stipendium des Northwestern Mutual Data Science Institute in Höhe von 50.000 US-Dollar finanziert wurden. Marquette ist eine Ankerinstitution des NMDSI, zusammen mit der University of Wisconsin-Milwaukee und Northwestern Mutual, und Xu und seine Forschungspartner sind dem NMDSI angeschlossene Fakultäten. Xu freut sich über die Erleichterung der Fakultätskooperation und der Synergien durch das Institut. Und in diesen Studien erwiesen sie sich als produktiv und führten die Forscher zu Erkenntnissen, die bedeutsame Möglichkeiten zeigen, wie KI Spendenaufrufe verbessern kann, und gleichzeitig einen unerwünschten Vertrauensverlust aufzeigen, den die Beteiligung von KI erzeugen kann, wenn sie potenziellen Spendern offengelegt wird.
In der ersten Studie Xu fungierte als Hauptforscher und arbeitete mit Dr. Praveen Madiraju, Professor für Informatik, und Dr. Kambiz Saffarizadeh, Assistenzprofessor für Management, zusammen, um sogenannte „Alignment-Probleme“ bei der Anpassung generativer KI an Crowdfunding-Bemühungen zu untersuchen, oder wie Xu es ausdrückt it mit der Frage: „Ist KI wirklich hilfreich, wenn sie tatsächlich eingesetzt wird, da sie das Potenzial hat, Menschen bei diesen Kampagnen zu helfen?“ Erhöht es die Effektivität und Vertrauenswürdigkeit oder treten unbeabsichtigte Folgen auf?“
Um die Studie durchzuführen, besuchte das Forschungsteam die beliebte Website GoFundMe und griff auf alle öffentlich zugänglichen medizinischen Crowdfunding-Projekte zu, wobei mehr als 900 von Menschen geschriebene Projekte abgerufen wurden. Anschließend verwendeten die Forscher ChatGPT, um die Geschichten so umzuschreiben, dass der Chatbot sie für effektiver hielt. (Da ChatGPT das gesamte Internet als Lernmaterial genutzt hat, ist es mit Crowdfunding-Projekten und den Eigenschaften erfolgreicher Projekte vertraut, sagt Xu.)
Mithilfe etablierter Textanalysetools zur Messung des Vorhandenseins von Elementen, die mit dem Fundraising-Erfolg verbunden sind, beobachteten Xu und seine Partner im Allgemeinen, dass KI menschliche Autoren übertrifft. Es wurde festgestellt, dass das KI-gestützte Schreiben 8 % analytischer ist, 16 % häufiger eine zielgerichtete Sprache in Bezug auf Geld verwendet und – verstehen Sie das – 10,5 % emotionaler ist als menschliche Autoren. „Die Leute gehen davon aus, dass KI eher roboterhaft ist, aber das stimmt nicht“, sagt Xu. „KI kann einen besseren Wortschatz mit emotionaleren Wörtern nutzen, denn in diesem Zusammenhang ist Empathie offenbar sehr wichtig. Menschen müssen emotional bewegt werden, um ihre Entscheidungen zu treffen.“
Obwohl ChatGPT bei der Erreichung dieser beeindruckenden Maßnahmen sogar 37 % weniger Wörter verwendete, ergab die Analyse einen Vorbehalt. Basierend auf einem System, das nach Anzeichen spontaner oder manchmal fehlerhafter Kommunikation im wirklichen Leben sucht, wurden die durch KI verbesserten Geschichten als 15,4 % weniger authentisch als die menschlichen Originale bewertet. „KI galt als weniger authentisch“, sagt Xu, „vielleicht ein bisschen zu ausgefeilt, ein bisschen zu perfekt.“
„Wir sehen diese etwas ethisch paradoxe Feststellung, dass Ehrlichkeit und Transparenz kostspielig sind und bestraft werden.“
Dr. Xu
Für die nächste Studie arbeitete Xu mit Dr. Terence Ow, Professor für Informationssysteme und Analytik am College of Business Administration, zusammen und ging noch einen Schritt weiter und rekrutierte 600 menschliche Richter, damit ihre Reaktion auf traditionelles und KI-gestütztes Fundraising verglichen werden konnte ob das Vorhandensein von KI ihre Bereitschaft, eine Kampagne zu unterstützen, beeinflusste.
Kurz gesagt, sagt Xu, dass die Juroren allein anhand der sprachlichen Merkmale nicht erkennen konnten, ob Projekte mit KI verbessert wurden oder nicht. Als jedoch eine Gruppe über die Beteiligung von KI an einem Projekt informiert wurde und andere im Dunkeln gelassen wurden, gingen ihre Reaktionen auseinander. „Wenn wir den Leuten sagen, dass etwas durch KI erzeugt wurde, glauben sie plötzlich, dass es minderwertig ist, und ihr Vertrauen wird untergraben“, sagt Xu. Als die Teilnehmer von der Rolle der KI in einem Projekt erfuhren, sank ihr Spendenbetrag um 22,5 %.
Angesichts der wachsenden Forderungen nach vollständiger Transparenz für KI-generierte Texte, Bilder und Videos – eine Bewegung, die Xu unterstützt – werfen diese Ergebnisse Implikationen auf, die nicht leicht zu lösen sein werden, sagt er. „Wir sehen diese etwas ethisch paradoxe Feststellung, dass Ehrlichkeit und Transparenz kostspielig sind und bestraft werden. Wenn ich Geld für jemanden in meiner Familie sammle, bedeutet der Einsatz generativer KI nicht unbedingt, dass meine Praxis unethisch ist. Es stellt sich jedoch die Frage, ob Spendensammler für ihre Transparenz einen zusätzlichen finanziellen Aufwand in Kauf nehmen wollen.“
Durch ihr Engagement bei NMDSI (wo Xu auch Co-Vorsitzender des regionalen Talent-Unterausschusses der Gruppe ist) und einer immer stärker werdenden Data-Science-Community bei Marquette, die Disziplinen wie Kommunikation, Wirtschaft, Gesundheitsstudien und Informatik umfasst, werden Xu und seine Kollegen gut aufgestellt sein Erkunden Sie diese und andere Herausforderungen im Zusammenhang mit der KI-Nutzung weiter und geben Sie dabei wichtige Hinweise.
