René:
Willkommen bei Helfern helfen zu helfen mit KI, dem Podcast, der sich mit dem Einsatz von KI-Tools im Sozial- und Gesundheitswesen beschäftigt.

Katja:
Ich bin Katja und zusammen mit meinem Co-Host René sind wir zwei zertifizierte KI-Trainer mit einem sozial und medizinischen Hintergrund und werden euch in die faszinierende Welt der künstliche Intelligenz entführen. In dieser Staffel reden wir speziell über Anwendungsfälle in betreuten Wohneinrichtungen.

René:
Heute möchten wir mit euch über das Thema Diskriminierung durch KI und wie sich Arbeitsplätze in der Zukunft durch KI verändern können reden.

Katja:
Aus deiner Erfahrung René, welche Vorurteile haben Menschen gegen Behinderte?

René:
Ich denke auch in der heutigen Zeit haben die Leute auch noch viele Vorurteile, weil die Berührungspunkte mit Menschen mit kognitiven oder psychischen Beeinträchtigungen auch noch nicht so häufig stattfinden. Das heißt, Menschen sind immer noch nicht in der heutigen Zeit sehr integriert in die Gesellschaft. Man arbeitet da dran und es gibt ja auch gewisse Vorstöße von politischer Seite, dass das mehr passiert.

Aus meiner Erfahrung merkt man es draußen, wenn man mit Klienten, zum Beispiel, früher war ich mit Klienten unterwegs, wir haben Ausflüge gemacht, sind irgendwo hingefahren. Man konnte dort auch recht gut beobachten, wie die auf die Klienten reagieren, Und da waren ja wirklich verschiedene Menschen mit Trisomie 21, Menschen mit auch körperlichen Beeinträchtigungen oder...

Und da waren ja wirklich verschiedene Menschen mit Trisomie 21, Menschen mit auch körperlichen Beeinträchtigungen oder...

oder Berührungsängsten und so weiter. Und du hast vor allem bei Erwachsenen zum Beispiel mal gemerkt, wenn die mit Kindern unterwegs waren, dass - irgendwie ein bisschen schräg, aber die haben dann die Kinder zum Beispiel weggezogen, Also ich glaube, da sind wirklich auch Ängste vorhanden. Eben Vorurteile, die haben im Kopf gewisse Vorurteile, was die Menschen so machen hin und her. Also manchmal hat man das Gefühl gehabt, als wenn sie Angst hatten, dass es ansteckend ist auf ihre Kinder. Hört sich jetzt komisch an, aber so kam das manchmal vor.

Und da sind zum Beispiel kleine Kinder offener. Die sind vielleicht manchmal auf die Leute zugegangen. Auf der anderen Seite konntest du aber auch da beobachten, dass gewisse Kinder da ein bisschen Angst hatten. Wenn jetzt zum Beispiel Menschen mit Beeinträchtigung, zum Beispiel Trisomie 21, die sind recht offen, die sind recht fröhlich, vielleicht auch mal ein bisschen laut. Und da habe ich auch gemerkt, das für Leute dann wirkt das einfach irritierend. Weil das so eine Art ist, die sie vielleicht sonst einfach nicht so kennen. Oder optische Merkmale, wenn bestimmte Leute einfach optische Merkmale haben, wo ein bisschen...

ja, auf die ein bisschen irgendwie seltsam wirken. Das einfach wirklich, ich würde es als Ängste beschreiben, da wirklich Ängste vorhanden sind, die das verhindern, dass sie mit denen in Kontakt kommen. Und da habe ich mich immer so ein bisschen als vermittelnde Person gesehen und habe dann manchmal die Leute mal so angesprochen und sozusagen auch mal mit den Klienten zusammengeführt, sodass sie mal merken, hey, es sind einfach klar normale Menschen. Die haben ihre Eigen auch ihre Eigenarten wie die anderen Menschen halt auch. Und

Ja, das ist das, was ich so erlebt habe.

Katja:
Kinder vor allem sind so neugierig.

René:
Absolut, absolut. Oder eben, aber da gibt es auch wieder die Gegenbeispiele. Wenn man jetzt sieht, behinderten Menschen, dass man immer das Gefühl hat, man muss dem jetzt bei allem, was der macht, helfen. Der kann jetzt gar nichts. Dass man irgendwie eben, man muss ihm dann sagen, komm, du musst das so machen, musst das so machen, anstatt man sich einfach mal machen lässt. Und das ist auch wieder so das Gegenteilige, was ich beobachte, dass Sachen abgenommen werden. Ich sage mal so ein klassisches Beispiel. Jacke anziehen.

Also das habe ich sogar in Institutionen erlebt, dieses Jacke anziehen. Das können die. Die brauchen einfach ein bisschen Zeit dafür. Manche Betreuer haben da nicht die Zeit dafür. Und dann werden denen zum Beispiel die Jacken anzogen. Da habe ich manchmal gedacht, gib einfach den Menschen ein bisschen Zeit. Und das ist vielleicht auch bei Betreuern manchmal diese Vorurteile. Ach, das kann er jetzt nicht. Heute kann er das nicht. Morgen vielleicht, aber heute kann er das irgendwie nicht.

Katja:
Da haben sie auch selbst nicht selbstbewusst, wenn man sie nicht einfach erledigen lässt.

René:
Aber man hat ganz häufig bei Leuten beobachtet, dass man keine Zeit hat. Oder wenn man mit den Leuten unterwegs ist und sie zum Beispiel in Busse einsteigen müssen. Manche Menschen mit Einbereitrichtung brauchen einfach dafür Zeit. Zum Beispiel gibt es ein Beispiel von ehemaligen Klienten, mit denen ich zusammengehabelt habe.

Der hat eine sogenannte Schwellenangst gehabt. Das heißt, wie zum Beispiel Türschwellen. Also die Schwelle ist, wenn du durch die Tür gehst, dieser Tritt oder so, wie man den dazu sagen will, diese Grenze zu überwinden, das ist für die manchmal wie so eine unsichtbare Grenze gewesen, von außen in einen Raum reinzugehen zum Beispiel oder aus dem Raum wieder nach draußen zu gehen. Und beim Bus genau das Gleiche. Das ist ja wie, er muss in den Bus hineinsteigen und dafür braucht er teilweise

Länger Zeit. Und da hast du gemerkt eben, beim Busfahrer natürlich, die stehen alle unter Zeitdruck. Und dann werden sie ein bisschen komisch, werden zum Böse, sagen schon mal was. Oder Leute, die dahinter stehen, die werden dann auch ungeduldig und sagen, denken sie auch, Mensch, ja, komm, mach doch mal vorwärts. Das ist auch so, das ist so ein typisches Beispiel, was ich häufig erlebt habe.

Katja:
Letztens habe ich auf einen Zug gewartet, um 7 in der Früh. Das war ein furchtbarer Tag, ich müsste nach Italien gehen. Es war ein sehr langer Weg mit vielen Verbindungen. Gleich um 7 in der Früh bin ich auf der Station. Da war ein Junge und ich höre ihn beim Pfeifen zu. Er hat zu sich selbst gesungen. Ich war schon genervt. Das brauche ich nicht, um 7 in der Früh, dass jemand mit sich selbst dort redet und sich zu sich selbst singt. Ich habe ihn angeschaut und gesehen, okay, Trisomie 21.

Und mein Herz ist sofort weicher geworden. Also aha, gut, gut, du beschäftigst dich, okay. Aber auf der anderen Seite, das war der Tag vor Weihnachten, wo Schnee gefallen ist und so viele Zugausfälle waren, dass alles schief gelaufen ist. Und der Arme hat dann eine komplett andere Verbindung nehmen müssen. Und es war leider nicht die Verbindung, die ich nehmen müsste. Und wenn ich zwei Stunden extra Zeit hätte, hätte ich ihn nach Linz begleitet. Aber ich hatte sie einfach nicht.

Und er war so arm dann, mit sich selbst hinterlassen auf der Station. Hat dann angefangen laut zu weinen und niemand hat ihm geholfen. Und der hat mir so leid getan.

Ja, wir behandeln diese Leute irgendwie anders, auch wenn wir nicht wollen. Wir sehen sie anders. Sobald wir wissen, dass sie irgendeine Behinderung haben oder wir merken, da ist nicht wirklich alles so normal. Falsches Wort, aber das Wort benutzen wir sehr gerne. Zeigt sich, dass die Gesellschaft Leute mit Behinderungen einfach anders sieht. Und wieso wir dieses Beispiel jetzt genommen haben, ist weil die künstliche Intelligenz

nur durch Materialien trainiert wird, die vorhanden sind. Und die Materialien, die vorhanden sind, diskriminieren gegen Leute mit Behinderungen. Und wir können erwarten, dass die Systeme, die an solchen Daten trainiert werden, auch diese Diskriminierungen drinnen haben werden.

René:
Ja, die Diskriminierung findet ja nicht nur quasi bei diesen Menschen statt, sondern das betrifft ja ganz viele Bereiche dann. Also das KI sozusagen auch diskriminiert, weil die Daten, die dort eingegeben wurden, vielleicht, ich habe zum Beispiel heute gehört, zum Beispiel früher von weißen Menschen wurde das erstellt. Die Datenbank wurde dort Daten eingegeben. Und in ihrer Welt, wo die halt gelebt haben, gab es jetzt wenig farbige.

Und dadurch haben die wir sozusagen nicht bewusst, aber vielleicht einfach vergessen, das wie in die Datenbank dort zu integrieren. Und was passiert natürlich dann, wenn man mit diesen Tools arbeitet und her, dieses Wissen oder diese Daten sind dort nicht erlegt und er kann natürlich auch nichts zugreifen. Also wenn jetzt als Beispiel, nehmen wir mal das Thema Jobsuche, dort wird die Person dann natürlich nicht aufgeführt.

Das heißt, die fällt da komplett raus. Also in dem Sinn wird sie dann wie diskriminiert. Das kannst du natürlich bei behinderten Menschen, da kann das natürlich auch passieren, hin und her, dass die einfach dann auch zum Beispiel gerade wenn sie ihren Job suchen möchten und auch dort arbeiten könnten durch gute.

ich sage jetzt mal Training oder gute Förderung, die man mit ihnen macht, dass man wirklich sagt, okay, man fördert die so weit, dass die wirklich vielleicht nicht ersten Arbeitsmarkt, aber einen zweiten Arbeitsmarkt gewisse Sachen machen könnten und auch möchten, dass die vielleicht gar nicht die Chance bekommen dadurch da Jobs zu finden, sondern eben dadurch diskriminiert werden.

Katja:
Ja, wenn du darüber nachdenkst, wie so ein Bot z.B. trainiert wird, der nimmt, was für Leute haben wir im Unternehmen, was für Leute sind gute Performer, welche sind erfolgreich und nimmt diese als Beispiel für so eine Person, wollen wir anstellen. Es ist ein berühmter Fall passiert vor ein paar Monaten mit einer Firma in Amerika, hat genauso ein...

KI-Recruiter-Bot verwendet, um durch Lebensläufe zu filtern, die angekommen sind für eine ausgeschriebene Stelle. Und dann haben sie am Ende bemerkt, dass in den ausgewählten Menschen niemand mit einer dunklen Hautfarbe dabei war. Ganz unabsichtlich, es hat niemand der KI gesagt, wir wollen nur weiße Menschen anstellen. Aber sie hat gesehen, okay, hauptsächlich sind weiße in der Firma und irgendwie behauptet, obwohl das das falsche Wort ist.

behauptet, dass wir keine dunklen Menschen haben wollen.

Und das kann wohl passieren mit Leuten mit irgendwelchen Behinderungen, sobald auf dem Lebenslauf drauf steht, oder es muss nicht einmal direkt stehen, dass sie eine Behinderung haben. Es muss halt nur stehen, dass sie vielleicht zwei Jahre länger für die Schule gebraucht haben. Und das ist schon so ein Red Flag. Außer man geht wirklich bewusst. Diese KI trainieren mit: "wir wollen

solche Bewerbungen ausschließen aus dem System" und sie vielleicht manuell behandeln. Vielleicht sie sich extra anschauen. Oder wollen wir sie direkt ausschließen? Darüber muss man nachdenken.

René:
Das ist ja nichts unrealistisches, das passiert ja. Also ich hatte einen Kontakt mit einer Frau, die sich spezialisiert hat auf Bewerbung. Also aktuelle Bewerbung und die hat mir dann auch erzählt, dass in der heutigen Zeit ist es auch normal, dass du deine Bewerbung ja wahrscheinlich sowieso nicht mehr per Post schickst, das passiert ja recht selten und auch nicht per E-Mail, sondern dass du wie ein vorgefertiges elektronisches Formular hast, wo du eben deine ganzen Daten hineingebst, dein Lebenslauf.

Bewerbung schreiben und so weiter und so fort. Und im Hintergrund wärtet das ein System aus. Und da werden natürlich auch anhand von ein paar Metern werden dann einfach deine Bewerbung, kommt die denn weiter oder eben nicht? Und ich könnte mir vorstellen, wenn das bewusst trainiert ist und man gewisse Leute dann schon eben da bewusst ausschließt. Also dann muss ich auch sagen, dann ist es ja.

ganz klare Diskriminierung. Das andere Beispiel, wenn die Daten so trainiert werden, dass natürlich was vergessen wird, also es kann auch eben, wie du sagst, unbeabsichtigt natürlich sein, würde ich jetzt nicht unbedingt sagen, dass es eine Diskriminierung ist, aber natürlich

Das passiert ja nicht nur mit Menschen, wie wir jetzt gesagt haben, mit psychischen Beeinträchtigungen. Das betrifft ja schon auch mehrere Bereiche. Das kann eben Alter sein. Das ist auch, glaube ich, so ein ganz wirklich Punkt, wo heute wirklich auch die Recruiter oder Personaler, dass sie da auch auf bestimmte Altersgruppen schauen, welche wollen wir noch haben und welche eben nicht. Oder Name.

Katja:
Geschlecht auch. Ja, Name, ja. Nationalität.

René:
Ganz typisch, wenn Sie da schon Namen lesen, ich glaube heute sind Sie vielleicht schon ein bisschen offener, aber ich glaube früher war das wirklich tatsächlich  ein Thema, dass gewisse Namen durch Vorurteile geführt haben und darauf nicht berücksichtigt wurden.

Katja:
Das ist immer noch ein Thema. Ich habe mit zwei Flüchtlingen aus Afghanistan gelebt und habe sie bei ihrer Jobsuche begleitet. Mental mitbegleitet. Und der eine wollte eine Ausbildung zum Koch machen und würde schon in der Tür wegverwiesen. Hat es nicht einmal geschafft, die Hand zu schütteln. Sobald der Rekruter ihn gesehen hat, hat es schon gesagt, nein, du nicht!

Jemand, der arbeiten will. Ein 20-jähriger Junge, der wegen Krieg und allen möglichen Umständen keine Gelegenheit

Es gibt gewisse Jobs, wo Image wichtig ist. So wie ein Model oder jemand, der in einem Abercrombie & Fitch Shop arbeitet, hat eine gewisse Physik, die dazugehört, weil das der Image von dem Shop ist. Ob das richtig ist oder nicht, mag ich nicht sagen. Aber solange die meisten Jobs nicht davon betroffen sind, finde ich es nicht so fragwürdig.

Es ist aber nicht nur Behinderung, Hautfarbe, es ist auch Geschlecht. Und eine Studie hat gezeigt, dass ChatGPT, wenn man ihm, du sollst ihm ja eine Rolle geben. Du sagst ihm, du bist Marketer, du bist Personalvermittler, du bist Trainer. Und wenn du ihm sagst, du bist Marketing Expertin, statt Marketing Experte, liefert er schlechtere Antworten.

René:
Grund, wahrscheinlich von den Daten, wie er dann halt trainiert wurde, oder?

Katja:
Ja, genau. Oder im Dezember liefert er schlechtere Antworten. Sind alles Einflüsse auf die KI, über die wir nicht einmal nachdenken, bis es passiert.

René:
weil es dann eben nicht wirklich sichtbar ist. Das passiert ja so viele Sachen, kann man die KI vielleicht auch nicht mal erklären in dieser Blackbox und diese Prozesse sind ja nicht sichtbar. Da ist ja für den, ich sag mal, wenn ich jetzt aus meiner Position als Bewerber, der einen Job sucht zum Beispiel, ist das ja nicht verständlich. Warum? Ich habe eigentlich gute Voraussetzungen, bin gut in meinem Job, habe meine Arbeit immer super gemacht und so weiter und so fort, bin pflichtbewusst,

bin verantwortungsvoll und engagiere mich und lebe vielleicht auch noch für den Job, den ich da mache. Also absolute Motivation dazu. Ja warum komme ich da jetzt nicht weiter? Warum wollte ich mich nicht? Ist doch unerklärlich. Ist doch Quatsch.

Katja:
Du könntest die perfekte Person für die Position sein, aber irgendein Filter ist da drinnen, Und es ist unsere Verantwortung, über diese Dinge nachzudenken. Aus dem... Es ist unsere Verantwortung, über diese Dinge nachzudenken und aus den Fehlern zu lernen.

René:
Genau, und darum stellen wir jetzt auch diese Ethisch-Fragen in Bezug in der Verwendung von KI. Also das ist ja nicht alles nur super, man muss auch einfach die Sachen auch hinterfragen und eben da auch Lösungen finden.

Katja:
Die EU versucht schon mit den Gesetzen diese Dinge anzusprechen, ein bisschen zu regeln. Der EU-AI-Act hat einen Clause drinnen, der darüber spricht, über die Diskriminierung und Bias bei neu trainierten Systemen und spricht genau dieses Problem an. Und da ist die Verantwortung in, was für Trainingsdaten verwenden wir, um ein KI-System zu trainieren. Wir sind dafür verantwortlich, dass die Daten...

wirklich bunt sind, dass alles mögliche drin ist, dass wir diese Diskriminierungen schon auf der Stelle versuchen auszuschließen, was natürlich schwierig ist. Aber wir müssen es machen.

Jetzt haben wir ein kleines bisschen darüber geredet, wie können wir den Diskriminierungsbias von KI merken, wenn jemand auf der Jobsuche ist. Aber eine große Frage, die ich immer wieder kriege von den Leuten ist, werde ich ersetzt durch KI? Wird KI meinen Job nehmen? Das erste Problem, das wir haben könnten, ist, KI könnte vermeiden, dass du überhaupt einen Job kriegst. Haben wir jetzt festgestellt.

Aber was passiert, wenn du schon einen Job hast?

Sollst du dir Sorgen machen um deinen Job? Und auf diese Frage ist die Antwort natürlich sehr kompliziert. Meinungen gibt es viele. Ich frag dann mal dich als Agoge, welche Tagesaufgaben sind für dich die, die du lieber nicht machen würdest? Was sind die Zeitfresser, die repetitiven Aufgaben?

René:
ganz klar administrative Aufgaben. Muss ich ganz klar sagen. Also aus meinem täglichen Alltag war das für mich immer schön, mit den Menschen einfach direkt zusammenzuarbeiten und auch vom Gefühl her das Feedback, was ich von Ihnen bekommen habe, dass Ihnen es auch gut tut. Wenn man sich mit Ihnen beschäftigt...

sie unterstützt, wenn es nötig ist und einfach auch mal, einfach vielleicht lustige Momente miteinander teilt, einfach Mensch ist. Man ist nicht nur immer der Betreuer, sondern einfach auch ein Mensch ist. Und da sind ganz klar für mich die, diese Büroarbeiten, die waren immer für mich sehr lästig. Ich weiß, die müssen sein, weil es Gesetze, Gesetzgebungen gibt, die sagen, du musst gewisse Sachen, musst du einfach dokumentieren, ganz klar, damit die Finanzierung nachher auch gemacht werden können und so weiter. Du musstest alles heute da natürlich ein bisschen konkreter

alles abbilden. Zum Beispiel das tägliche Schreiben von Berichten. Das hat immer für mich, wenn ich das als einzelne Person gemacht habe, ich sag mal für zwölf Leute, da bist du doch eine Zeit dran. Also da brauchst du sicher mal 40 Minuten, denke ich, bist du sicher dran, um die Berichte zu schreiben.

oder am Morgen auch Berichte lesen. Also wir haben das so aufgeteilt, dass jemand die dann halt liest und dem anderen halt sozusagen kurz Zusammenfassung gibt, was da drin steht. Aber das Lesen von den Berichten, da bist du auch, wenn du da Zeit nimmst, ein bisschen genauer lesen musst, bist du sicherlich auch 20 Minuten dabei. Das ist alles  Zeit.

Die ist auch wichtig, man muss die Information natürlich haben, aber es ist einfach viel Zeit, die im täglichen Arbeiten verloren geht. Früher eben die Situation, am Morgen, man hat eigentlich, wir müssen die Berichte lesen, aber nachher kommen die Klienten zum Beispiel. Und du empfängst die Klienten, weißt die sozusagen ein oder fragst sie, was möchtet ihr machen und versuchst mit ihnen halt da gewisse Sachen vorzubereiten, wenn sie das nicht könnten. Und die Zeit geht so für mich immer so ein bisschen verloren da drin.

Oder das auch, das ist klar, das muss man machen, aber zum Beispiel wenn jetzt...

Mir ist auch klar, dass man gewisse Sachen machen muss. Zum Beispiel klar, wenn man jetzt zum Beispiel gewisse Ereignisse, wie jetzt eben jetzt Klient eine psychische, psychische Probleme hat, es eskaliert ein bisschen mit ihm. Er kommt in, sag ich mal, das Beispiel eine Psychose rein oder hat Suizidgedanken. Da muss man natürlich die Sachen auch ganz klar mit mit ihm anschauen oder einfach die Situation mal händeln. Und das ist klar, dass natürlich die Sachen auch.

dokumentiert werden müssen. Da ist klar, die Zeit braucht es dafür. Dort, denke ich aber eben auch, könnte man das vielleicht auch ein bisschen vereinfachen, indem man einfach da gewisse Tools z.B. trainiert, die ganzen Sachen, die Berichte schon mal zu viel zusammenfassen, dass es einfach schneller geht. Wenn man z.B. solchen Bericht schreiben muss, eben, dann musst du das Formular raussuchen.

Da musst du das alles detailliert beschreiben. Da musst du dir das natürlich auch noch im Bericht schreiben. Die musst du weiterleiten. Bei gerade so größeren Sachen musst du das auch noch an die nächst höhere Person weiterleiten. Und da könnte sicherlich KI bei helfen, dass man wie in Leitfaden erstellt und da zum Beispiel dann auch also Leitfaden von Experten mit gewissen Tipps und so weiter und so fort, dass die...

einem dann sozusagen gegeben werden, dass man wie schneller handeln kann, dass man als Beispiel nicht erst lange das Promular suchen muss für Suizidgedanken, sondern ich gebe das Wort ein, der gibt mir dann mehrere Vorschläge zu Haus und ich kann auswählen, welche Aufgabe ich erledigen will und das eben relativ schnell geht, dass ich mir einfach diesen Hauptaufgaben einfach widmen kann und nicht denn nur da sitze und den Tag irgendwie Dokumentation schreibe.

Zeitfresser waren auch immer, obwohl es eigentlich interessant war, so Ideen für die Klienten. Also als Beispiel, wir haben ja sehr viel kreativ gearbeitet. Wir haben gezeichnet, wir haben irgendwie Skulpturen erstellt, wir haben mit ganz viel verschiedenen Materialien gearbeitet und für die musste man auch Ideen finden, weil die Klienten meistens da nicht selber Ideen hatten.

Und wir haben dann dafür Ideen gesucht. Und wenn du das selber so gemacht hast, ich sage mal als Beispiel, ich nehme immer so Pinterest, wenn du da drauf gehst, dann suchst du irgendwas, und du bist da ewig lange dabei, weil du das noch siehst, das noch siehst. Und ich denke, da könnte man auch mit einfachen Befehlen sicherlich konkrete Ideen und schneller finden, anstatt man die Zeit verloren geht. Und ich sage mal, die Zeit geht für mich aus Betreuer-Sicht, vielleicht auch häufig dann für die Klienten einfach verloren.

Oder als beitres Beispiel noch jemandem E-Mails austauschen. Also als Beispiel jetzt, da braucht der Vorgesetzte dann wieder irgendwelche Infos, die er sich vielleicht auch woanders holen könnte. Oder andere Mitarbeiter aus dem Wohnbereich fragen dich für gewisse Sachen an, wo du nicht zwingend eigentlich beantworten müsstest, aber...

es denn doch machen mussten. Es kostet auch wieder Zeit und dass sie da, sagen wir als Beispiel, so ein interner Chatbot, einfach auf gewisse Daten zugreifen können und die Informationen einfach schneller hätten, ohne dass man wie aus der, ich sag immer so, Kernaufgabe auf diese Hauptaufgabe, die Betreuung von Klienten so wie rausgerissen wirst und dann immer wieder sind an diesen administrativen Aufgaben landest. Also das muss ich ehrlich zugeben, das war nie meine Passion, meine Leidenschaft.

Katja:
Ich kenne auch seltene Leute, die sagen, das ist mein Lieblingsteil von der Arbeit, von dem Computer sitzen und die Doku zu lesen. Ja, wieso ich dich das so direkt gefragt habe, ist, weil Leute denken, KI wird meinen Job ersetzen und die du hast jetzt sehr viele Aufgaben gelistet, die in deinem Job drinnen sind, von Doku schreiben, Doku lesen, Doku zusammenfassen, jemandem anderen zu sagen, was in der Dokumentation steht, Ereignisse dokumentieren,

diese Ereignisse und Dokumentationen weiter schicken, Ideen suchen. Das sind alles Aufgaben, die ein Sozialbetreuer in diesem Fall weiterhin machen wird, müssen, nur halt schneller. Das heißt nicht, wir werden keinen Sozialbetreuer mehr brauchen. Es heißt nur, du wirst ein Beispiel, wenn irgendetwas im Gang eskaliert und dein Handy hört deinem Alltag zu.

kann dein Handy in einem KI da drinnen schon gleich ein Notiz machen, heute um 11.55 Uhr hat dein Klient erwähnt, dass er sie auf die Straße legen möchte. Und dann nachher kannst du vielleicht ein Notification kriegen, zwei Stunden später. Hey, du hast das noch nicht dokumentiert, das war wichtig. In unserem Leitfaden drinnen steht, dass wir solche Ereignisse an diese und diese Person weiterleiten müssten.

Möchtest du, dass ich diese E-Mail für dich verfasse, sodass du sie durchschauen kannst und sie weiter schicken kannst?

René:
Genau, das sind so Beispiele, wo in der Zukunft denke ich auch passieren werden. Und aus meiner Sicht bietet das natürlich einen großen Vorteil. Also Sachen, die du heute natürlich auch schon machen kannst, sind zum Beispiel diese Chatbots, ganz klassisch für die interne Kommunikation. Das heißt, dass man Chatbots bauen kann. Ich nenne sie jetzt mal bauen kann und die in die Firma, in das IT-System der Firma

implementiert, integriert und da dieser Chatbot nur auf firmeninterne Daten zugreift. Klar kommt mir da wieder der Gedanke, muss man natürlich auch vorsichtig sein mit diesen personenbezogenen Daten, bezüglich eben Datenschuss hatten wir schon, aber da könnten natürlich ein wesentlich schnellerer Datenaustausch stattfinden.

Je nachdem, wie der trainiert ist, können da Mitarbeiter Informationen schneller abrufen. Ich stelle mir das so vor.

was Zeit gekostet hat. Wenn du manchmal Formulare gesucht hast, du hast ja für alle möglichen Sachen, hast du irgendwelche Formulare gehabt und bist du mal auch rausgefunden hast, wo die Formulare liegen, in den dann im zwölften Unterordner, die zu finden sind und so weiter und so fort. Klar kann man das auch über Suchfunktionen vielleicht irgendwie einfacher rausfinden. Aber teilweise waren es Sachen, die erstens total nervig waren und einfach richtig Zeit gekostet haben. Und ich denke, da kannst du das so einfach wirklich so viel schneller machen.

und so viel effizienter einfach auch Arbeiten.

Oder was eben, was sie auch, das wissen ja viele, was man eben auch machen kann, eben Bilder erstellen, Texte erstellen oder so kurze Videos machen und vielleicht auch Präsentationen erstellen. Ich habe da noch so ein Beispiel, was mir jetzt eingefallen ist, das bezieht sich jetzt vielleicht nicht explizit auf Klienten, aber wir hatten

Dort, wo ich gearbeitet habe, da kam auch ein Filmteam vorbei. Die hat für die neue Website einen neuen Film gemacht, wo die Klienten dann auch dabei waren. Das Thema Inklusion, auch die Klienten sollen dabei sein, wenn die Videos gemacht werden und sich sozusagen zeigen auf der Website. So Sachen kosten erstens unwahrscheinlich viel Geld. Und ich könnte mir vorstellen, das kannst du auch einfach viel. Du kannst sie natürlich kosteneffizienter gestalten, wenn man das eben mit den Tools hat.

Klar braucht es auch jemanden, der das auch macht, aber würde wahrscheinlich auch Kosten sparen.

Katja:
Ja, da bist du schon bei anderen Arbeitsaufgaben, sowie diese kreative Aufgabe von, ich brauche ein 2-Sekunden-Video von jemandem, der eine Tasse Tee hebt, für welchen immer schon Grund. Das kannst du mittlerweile mit KI generieren lassen und sich einfach einen Ausflug und zwei Stunden von Filmen sparen. Das heißt nicht, dass ein Film-Macher jetzt auf einmal nicht mehr gebraucht ist, weil du brauchst trotzdem jemanden, der weiß, was für Beleuchtung braucht das.

Wie nah musst du sein? Was für eine Linse willst du dafür aus? Nur weil KI das generieren kann, heißt das noch nicht, dass die Expertise nicht gebraucht ist von so einem. Und genauso ist es im sozialen Bereich, wo du wirklich diesen menschlichen Touch brauchst, diese Connection zwischen Menschen, diese Wärme. Das kann eine KI nicht liefern. Meiner Meinung nach wird das noch lange nicht können. Da sind wir.

Jahre entfernt davon.

Du weißt genau, dass wenn du in der Doku rein dokumentiert hast, das gib mir mal ein Beispiel für ein Formular, den du brauchst.

René:
Eben, ganz klar das zu suizidale Gedanken.

Katja:
Okay, gibt's das.

Wenn du in der Doku rein dokumentiert hast, Suizidgedanken, Suizidideationen oder sowas. Stichwort Suizid. Kannst du sagen, das ist eine Automatisierung, die dort passiert. Sobald jemand Suizid geschrieben hat, kriegst du, weiß ich nicht, ein Pop-Up auf dem Screen, der sagt, ich habe gesehen, du hast Suizid geschrieben.

Die firmeninternen Daten sagen, dass bei diesem Formular ausgefüllt werden muss. Darf ich die Daten, die du reingegeben hast, in den Formular einfügen? Und da ist sofort der Name drin, Sozialversicherungsnummer von den Klienten, die Uhrzeit, wann das passiert ist und eine kurze Beschreibung von dem Wissen, das KI hat, über das Ereignis.

Deine Expertise in diesem Fall ist es trotzdem zu beschreiben, wie hat der Klient dabei ausgeschaut. Was hast du für ein Gefühl gekriegt? Wie ernst war das? Was ist deine Erfahrung mit dieser spezifischen Person? Ist das ein Rettungseinsatz? Ist das etwas, was du deeskalieren kannst? Kommt das häufiger vor? Was funktioniert für diese Person normalerweise? Das sind Sachen, die deine Expertise sind und das wird dir nicht weggenommen. Dafür wirst du...

immer gebraucht sein. Aber willst du wirklich dann auch in der Doku rein suchen müssen, wer ist die vorgesetzte Person, die unbedingt diese E-Mail empfangen muss und wer muss sie auch noch empfangen, wo muss das alles dokumentiert sein? Wäre es nicht so viel besser, wenn die KI sofort wissen würde, aha, der und der muss diese Infos kriegen und es ihm automatisch schickt.

René:
Das wäre für mich persönlich, also muss ich persönlich sagen als Betreuer, wäre das eine totale Vereinfachung. Weil das hier doch eben auch...

Ja, längere Prozesse sind, was du machen musst, die diese Berichte schreiben. Und das kann ich mir gut vorstellen. Das kannst du absolut automatisieren, dass das auch wirklich dann eben relativ schnell an betreffende Personen geht. Da geht es ja manchmal auch darum, dass die Leute dann vielleicht auch schnell ein Medikament brauchen, zum sich wie beruhigen, sage ich mal zum Beispiel. Und umso schneller die Daten, denke ich, da irgendwo weitergeleitet werden, umso schneller kann man reagiert werden. Ansonsten machst du das natürlich alles händisch. Du trägst du rufst jemand an. Die Berichte schreibst du zwar später.

aber du rufst jemand an, musst dieses Zettel, die sind zu suizidalen Gedanken, musst du alles ausfüllen. Ja. Und ich gebe dir absolut recht, das KI kann die, diese dokumentarischen, wie nennt man dazu, die Prozesse zur Dokumentation vereinfachen. So, jetzt fehlt mir das richtige Wort. administrativ, das hat mir gefehlt, das Wort, genau. Aber das stimmt dir absolut zu, das auch absolut meine ich, dass dieses,

Katja:
administrative Prozesse.

René:
wenn ein Betreuer empathisch ist und mit dem Menschen auch irgendwie schon eine gewisse Beziehungsbasis hat, Vertrauen aufgebaut hat, dass der Klient auch zu ihm Vertrauen hat, das kann kein KI-Tool irgendwie nachspielen und dass die Menschen gegenüber sitzen, ihm vielleicht auch eine in der Situation Sicherheit geben können oder dass er sich vielleicht aufgehoben fühlt und so

Wie soll das gehen? Das kann es nicht. Und das unwahrscheinlich gerade in der Arbeit ist es für mich das unwahrscheinlich wichtig. Die Menschen halt sozusagen auch da unterstützen.

Katja:
Es kann natürlich zuhören und daraus lernen vielleicht, was macht der Betreuer im Sinne von Deeskalation, das gut funktioniert hat, bei dem Klienten vielleicht eine Datenbank von solchen Ereignissen bilden und das benutzen, um neue Betreuer einzuschulen. Es sind auch Arbeitsstunden, die einem Mentor gespart worden sind, weil jemand jetzt sich durch Videos unterrichten lassen kann statt...

jemanden zwei Stunden Zeit zu nehmen, hier, wie hast du das deeskaliert? Da haben...

René:
Ich kenne das, Praktikanten sind so ein gutes Beispiel. Man nimmt heute immer auch gerne immer mehr Praktikanten. Ich sage, wenn ich jetzt böse wäre, würde ich sagen, das sind günstige Arbeitskräfte. Aber natürlich müssen Praktikanten, die aus artfremden Berufen vielleicht kommen, die gar keine Ahnung haben, wie das im sozialen Bereich läuft, die müssen natürlich eben sich entweder, die werden eingearbeitet und müssen sich zusätzlich aber natürlich durch die ganzen Formulare, Ordner, müssen sie sich alles mal durchlesen. Und ich kenne das.

Ich glaube, die waren da zwei Wochen dran oder so, bis sie sich mal irgendwie mit den ganzen Sachen irgendwie vertraut, einigermaßen vertraut gemacht haben. Und so kannst du natürlich, kannst du das... Ja, ja, natürlich, wenn man sich zuerst nicht alles merken kann. Und so könntest du theoretisch, könnt auch mit KI eben, wie du sagst, etwas erstellen, wo, wie eine Art Workshop vielleicht, ne? Dass die Leute das vielleicht einfach dann schneller lernen. Und das braucht dann nicht den Betreuer, der auch noch sozusagen...

Katja:
Wie viele Fehler dort passieren?

René:
die den Praktikanten in diesen Bereichen einarbeitet.

Katja:
Es muss nicht einmal ein Workshop sein und dass die Technologie existiert und ist zugänglich für jeden. Einfach nur, wenn du sagst du hast diesen Computerprogramm und du musst jemanden beibringen in welches Feld er was reinklicken muss und welche Nummer geht wo hier hinein. Da kannst du einfach deinen Workflow aufnehmen, also da quasi ein Video von deinem Bildschirm machen und es gibt KI's, die das in ein schönes Tutorial-Video verpacken werden.

Jetzt sehen wir, dass wir auf dieser Stelle keinen Job eliminieren müssten. Wir haben nur Leuten, die gerne mit anderen Menschen arbeiten, mehr Zeit gegeben, genau das zu machen. Da können alle nur profitieren. Auf der anderen Seite ist da ein neuer Job entstanden. Jemand muss einer KI beibringen, wie diese routinemäßige Sache normalerweise vorgehen.

Jemand muss dabei darauf achten, wie, welcher Leitfaden da,

Jemand muss dabei darauf achten, wie, welcher Leitfaden da, welche Instruktionen da zu beachten sind. Und jemand anderer muss am Ende diese Dinger testen und ständig weiterentwickeln. Da haben wir schon Aufgaben verleiht an Experten, an Leute, die sie gut auskennen und vielleicht neue Arbeitsplätze geschaffen damit.

René:
Ja, Katja, das wird, ich denke, auch in Zukunft wird es auch passieren, dass sich die Berufswelt verändern wird. Also das heißt, es gibt ja auch glaube ich viele Leute, die heute schon äußern, wenn sie hören, KI, was das alles kann, dass KI die Jobs wegnimmt, ihre Jobs wegnehmen könnte. Da sind wahrscheinlich, ich muss mal ehrlich sein, wahrscheinlich auch paar Bereiche wirklich betroffen, die wahrscheinlich wegfallen werden.

Aber dadurch werden natürlich auch wieder andere Jobs entstehen. Da gibt es ja Geschichten auch von früher, wo das halt passiert ist. Also wo einfach durch die Industrialisierung, Weiterentwicklung von gewissen Sachen, einfach Jobs wirklich weggefallen sind, aber dadurch andere entstanden sind.

Katja:
Häufig ist die Frage so formuliert, welche Berufe werden durch KI entfallen? Und die Antwort darauf ist, es werden nicht Berufe sein, sondern Aufgaben. Man kann sehr schwierig sagen, dieser einer spezifischer Beruf wird nicht mehr notwendig sein, auch wenn wir sehr niedrig gehen auf Berufe, die komplett automatisiert und ersetzt werden können. Im medizinischen Bereich fällt mir zum Beispiel die Dame ein, die einfach nur

aus dem Diktaphone alles raus tippt, was der Arzt gesagt hat. Da gibt es natürlich KI's, die das schon können. Man braucht aber trotzdem eine Person, die am Ende diese Angaben überprüft. Also es ist nicht so, dass man diese eine Dame nicht mehr brauchen wird. Man wird vielleicht nur eine brauchen statt vier davon. Die Aufgabe wird nicht entfallen, sie wird nur ein bisschen anders ausschauen.

René:
Das heißt auch nicht, dass die anderen dann komplett arbeitslos sind. Die werden dann einfach vielleicht an anderen Bereichen gebraucht, wo das einfach weiter entwickelt wird und dort ihren Platz dann sozusagen finden. Also ich denke auch nicht, dass die Angst, dass es nachher, keine Ahnung, Millionen von Arbeitslosen auf der Straße stehen.

Das denke ich auch nicht. Die Aufgaben werden anders aussehen und Menschen müssen sich wie auch in der Vergangenheit auf die neuen Situationen natürlich auch ein bisschen anpassen und sich weiterbilden.

Katja:
Vor 20 Jahren hatten wir keine digitalisierte Doku zum Beispiel. Jetzt kannst du dir schwierig vorstellen, ohne einer arbeiten zu müssen. Es gibt immer noch Sachen, die auf Papier passieren. So wie in einer Wohneinrichtung gibt es den Medikamentenschrank.

Der Medikamenteschrank ist für jede einzelne Person eine Mappe. Und in der Mappe drinnen sind Arztauflagen. Am welchen Tag war der beim Arzt, welchen Medikament hat er verschrieben, wie viel davon sollte normalerweise dort sein.

Und das überprüft ja eine Person. Einmal in der Woche, weiß ich nicht am Wochenende, nimmt sich jemand die Zeit und geht durch verpackt und verschickt hat, überprüft, ob diese Schachtel von Aspirin nachbestellt werden muss und jemand hält ein Auge drauf.

Und auch dort, du kriegst ein Paketchen aus der Apotheke, schon verpackt von Das kriegt der Klient am Morgen, das zum Mittag und das am Abend. Und auch dem vertrauen wir schon nicht. Da wollen wir, dass eine Person sich das anschaut und sagt, ist das der richtige Medikament oder ist es nur eine Pille, die ähnlich ausschaut, aber eine komplett andere Wirkung hat. Und das wollen wir weiterhin behalten. Es wäre nur super, wenn das nicht eine Papiermappe wäre, sondern

vielleicht eine Excel-Tabelle, die vielleicht auch ein bisschen schlau ist und sagt, diese zwei Medikamente gehören nicht zusammen, weil da können schlechte Auswirkungen sein. Sowas würde die Arbeit viel schneller machen, aber nicht wegnehmen.

René:
Genau, du hast das Beispiel gerade beschrieben, es brauchen nicht immer nur zwei Augen, sondern aus meiner Praxiserfahrung, da braucht es gerade bei dieser Medikamentenüberprüfung vier Augen. Du musst es immer so gegen kontrollieren noch sein. Also bei all die, ja da braucht es große Sicherheit, weil die Sachen, die dort passieren, können natürlich die Medikamente, die dort teilweise ausgegeben werden, schon krasser sind. Also da kann schon Schlimmeres passieren und das braucht es dann diese vier Augen.

Katja:
In der letzten Zeit haben Studien gezeigt, dass der deutschsprachige Raum im Vergleich zu englischsprachigem Raum viel optimistischer ist, was die Frage, wird KI mich ersetzen, angeht. Also ja, mehr als die Hälfte ist trotzdem der Meinung, dass KI ein paar Aufgaben irgendwie anders gestalten wird, als sie bis jetzt waren, wobei in Amerika das bei den 80 Prozent ist von Menschen, die schon verstehen, dass KI kommt und da ist, um ihre Welt zu revolutionieren.

Menschen meinen natürlich, Jobs werden betroffen. Aber das Lustige ist, die meisten denken, dass genau ihr eigener Job nicht betroffen werden wird. Sehr viele Leute sind der Meinung, dass genau so wie sie diesen Job machen, kann eine KI nicht übernehmen. Und das sind am häufigsten die Leute, die tatsächlich wenig Ahnung haben davon, was KI schon machen kann.

Die, die am meisten die Technologien unterschätzen, sind der Meinung, dass sie nicht ersetzbar sind.

René:
Das war eine weitere Folge von Helfern helfen zu helfen mit KI. Wir hoffen ihr hattet Spaß und bis zum nächsten Mal. Tschüss!

Katja:
Tschüss!