Humans against Cyber- Social Engineering und GenAI - EP6

Eva: Hallo und herzlich willkommen zum CyberWellness Podcast Humans Against Cyber Staffel 1 Episode Nummer 6, eine Sonderfolge. haben einen Gast heute dabei. Moin, lieber Nermin.

Nermin: Servus liebe IFA!

Eva: Und moin, lieber Manuel!

Manuel Blessing: Einen wunderschönen guten Morgen, äh, guten Mittag oder auch guten Abend zusammen. Danke, dass ich heute dabei sein darf.

Eva: So schön, dass du da bist. Wir freuen uns total. Du hast ein mega Thema vorgeschlagen. Für unsere Folge heute ist es relevant für jedermann Social Engineering und Gen -AI. Und da werden wir viel zu besprechen haben in den nächsten 30 Minuten. Und damit alle erst mal wissen, wer du bist, würden uns freuen, wenn du dich einmal kurz

Manuel Blessing: Danke dir. Ich bin der Manu, Manuel Blessing, bin Team Lead innerhalb der Automotive -Industrie, liebe und brenne folgende Topics. Einmal das Thema Security Architecture, also alles rund Threat Modeling, Security Software Engineering, ChenAI Cyber Security und vor allem auch OT Cyber Security. Im privaten Aspekt bin ich nebenberuflich als sind unterwegs und gläume auch hier wieder zwei Themen. Einmal das Thema Cyber Security, wundervunder. Da geht es dann Richtung Information Security, Risk Management, Social Engineering, Threat Modeling, GNI Cyber Security. Das sind so die Basworts schlicht hin. Und auf der anderen Seite, was mich auch sehr begeistert, ist das Thema Modern Leadership, also moderne Führungsprinzipien. Was braucht eine moderne Führungskraft in einem technischen, hochkomplexen Umfeld? Was bedeutet denn überhaupt Leadership? Und das sind so die Themen, welche mir tatsächlich Spaß machen. Danke dir!

Nermin: Endlich mal einen Experten im Podcast, nicht nur uns zwei hier, die Rundfachdämpfe und endlich mal Leute, die wirklich Ahnung haben. Aber wir werden noch mal ein kleines Lexikon nachreichen für diese ganzen Begriffe, die jetzt gefallen sind, für die Leute, sie noch nicht kennen. Wir werden das dann noch mal

Eva: Ja, da!

Eva: Hahaha!

Manuel Blessing: je, Na, wenn jetzt ist stürzt die Messkarte tatsächlich echt hoch.

Nermin: Kein Druck, kein Druck, du bist überqualifiziert.

Eva: Nein, es ist richtig toll, dass du dabei bist. Wir brauchen Leute vom Fach, die uns helfen, unsere Themen verständlich zu machen. Für jedermann, ja? Weil daran hapert das, ja? Und wir haben da so eine, ja, ich sag immer so ein Mythos Cyber Security als Nische. Und die Wahrheit ist, ja, dass es uns alle angeht.

Manuel Blessing: Mhm.

Eva: Und ich fand genau das war jetzt so ein schönes Ding, deswegen super, Nermin. Wir werden genau das auch in die Show Notes packen und kurz erklären, was das eigentlich alles war, weil normalo kennt er nämlich nicht. Und so müssen wir da ran und so denken. ja, dein Thema Social Engineering, was du gesagt hast, kannst du uns mal so in einfachen Worten erklären, was Social Engineering eigentlich

Manuel Blessing: absoluter Chor und du hast gerade glaube ich ein ganz ganz wichtiges Stichwort gesagt erklärt es so, dass es wirklich jedermann versteht und ich stelle mir gerade meine allerliebste Oma auf einer Parkbank vor weil die fragt ja auch immer und so sag mal Manu du sagst immer du bist so in einem IT Umfeld unterwegs I don't know was du da überhaupt machst und stellt euch mal vor du sitzt auf einer schönen sonnigen Parkbank und wie gesagt neben mir sitzt sitzt meine allerliebste Oma und die Person beginnt mit dir ein freundliches Gespräch. Also kommt eine andere Person dazu, beginnt mit dir ein freundliches Gespräch, fragt nach deinen Namen, fragt nach deinen Lieblingskuchen und vielleicht sogar, wann du Geburtstag hast. Und du denkst dir dann, hey, was für eine nette Person, was für ein nettes Gespräch. Aber in Wirklichkeit sammelt dieser Mensch oder diese Person super wertvolle Daten und Informationen über dich. Und das widerspiegelt eigentlich das Thema Social Engineering, wie dieses Gespräch auf der Parkbank durchgeführt werden kann. Wenn man rein formalistisch reinschaut, heißt Social Engineering nichts anderes außer, das ist eine Methodik, bei welcher jemand versucht, das Vertrauen zu gewinnen und daraus resultierend an persönliche Daten und Informationen zu kommen, welche derjenige dann für seine eigene Zwecke verwenden kann. Wie zum Beispiel, jetzt gehen wir IT -technisch rein, Zugang zu irgendwelchen Accounts, zu einem Bankenkonto, zu einem Facebook -Passwort, Instagram -Passwort oder oder oder. Und nochmal ganz einfach erklärt, ich glaube, das ist, als würde jemand versuchen, den Schlüssel zu deinem persönlich oder zu eurem persönlichem Haus zu bekommen, indem er sich zum Beispiel als absolut netter Nachbar ausgibt.

Eva: Mmh.

Nermin: Ja, aber kann man sagen, tatsächlich dann diese ganze Social -Engineering -Thematik eher die Ausnutzung von so menschlichen Charakteristiken eigentlich ist, so wie Neugier oder... Da zieht es tatsächlich einfach nur darauf ab, Menschen irgendwas vorzugaukeln, entweder, dass man halt nett ist oder dass man halt irgendwas anbietet oder dass das irgendwas von Interesse sein könnte, darauf einzusteigen.

Manuel Blessing: Ja. Ja.

Manuel Blessing: Ich glaube, man kann Social Engineering in verschiedenen Gruppierungen unterteilen. Einmal das Thema, so diese klassische, also jetzt gehe ich schon tatsächlich ein bisschen technischer rein auf eine andere Flughöhe, Thema Phishing -E -Mails, Elezitieren am Telefon oder das Thema Identitätsbetrug. Das sind so diese drei Headlinesebenen. Und wenn ihr mich fragt, auch jetzt in einer typischen Risikoanalyse, da schaut man immer die technischen Aspekte an. Und ich muss gestehen, das Thema Social Engineering kommt viel zu kurz. Also absolut viel zu kurz, wenn ich jetzt beispielsweise in eine Firma eindringen möchte, dann schaut man sich 500 IPS, IDS, Firewall -Regeln an, also auf technischer Ebene, anstatt mal einfach mal wirklich auch von außen drauf zu schauen, sag mal, wie schwer ist es denn tatsächlich, in eine Firma eindringen zu können, indem man zum Beispiel so einen Workshut im Prinzip tatsächlich in einem netten Gespräch vermittelt. und total busy wirkt und daraus resultiert ein Zugang zu der Company bekommt.

Nermin: Aber ist es nicht paradox, weil das Teil heißt ja Social Engineering, dass man trotzdem noch irgendwie so in der Business -Welt das technologisch versucht anzugehen, obwohl es ja ein Social -Thema eigentlich ist.

Manuel Blessing: Total, total. Und wenn du mich fragst, ich glaube, man tut viel zu wenig in den Companies und auch in privaten Aspekten. Also ich erinnere mich jetzt an den typischen Enkeltrick bei meiner Oma. ich hoffe, dort kommen wir nochmal zum Sprechen, wie schnell es mittlerweile mit Chennai möglich ist.

Eva: Ja.

Manuel Blessing: daraus resultierend wirklich innerhalb von einer 5 -sekündigen Aufnahme die Stimme nachzussimulieren und wenn ich meine Oma jetzt anruf und ihr erkennt meine Stimme, kann ich ihr ja alles erzählen daraus resultierend. Und das ist brutal. Ja.

Eva: Das ist so spooky, so spooky. Das wäre nämlich auch eine meiner nächsten Fragen gewesen, den Kontext, nämlich zwischen Social Engineering. wollen Informationen von Menschen ja hinterrücks erspähen, entlocken und ja, Gen .ai hilft dabei ja auch noch richtig, dass man damit auch Erfolg hat. Also hast du da so

Manuel Blessing: Ja.

Manuel Blessing: Ja.

Eva: Beispiel ist, und also du hast es gesagt, mit der Stimme, kann ja auch, das kann ja theoretisch jeder auf den einschlägigen Seiten jetzt relativ einfach, wenn ich da die Stimme habe, nutzen.

Manuel Blessing: absolut. Absolut, absolut. ich glaube, jede... Also lass uns das mal vielleicht auch greifbar machen an zwei verschiedenen Aspekten. Einmal dieses Thema Phishing, wie schnell das mittlerweile geht. Also ich brauch fast gar keine IT -Kennnisse mehr. Und einmal an dem Thema vielleicht... Jeder von euch kennt, jetzt mache ich vielleicht ein heftiges Thema auf, aber dieses Silensky Video mit dem Diebfake.

Eva: Ja, das war krass.

Manuel Blessing: Total crazy oder Alan Musk, er die Krypto Plattform angeboten hat, wo er ja gar nicht gesprochen hat. Aber lasst uns mal vielleicht anfangen, wenn es okay ist, euch Richtung Phishing zu schauen. Wenn man mal echt mal überlegt, dass dieses klassische Thema Phishing, jede von euch kennt jetzt diese klassische E -Mail von dem Nigeranischen Prinzen, ich, oder afrikanischen Prinzen. So von wegen, man sagt, ich brauche 500 .000 Dollar, bitte überweis die.

Eva: Ja.

Manuel Blessing: Und wenn man die E -Mail tatsächlich gesehen hat, dann hat man damals noch relativ schnell die Rechtschreibfehler gesehen. Und die Anrede hat nicht gepasst. Und die E -Mail, hat schon echt ein bisschen like spam geklungen. Wenn ich aber heute reingehe und schreibe einen relativ guten Prompt und sage, hey, Chachibiti, schreib mir doch mal eine potenzielle Phishing -E -Mail an einen Paypal -User. welches seine Bankdaten erneuern muss, dann bekomme ich tatsächlich, Wunder, Wunder, eine absolut sehr, sehr coole Spam -E -Mail in Deutsch und Englisch komplett übersetzt mit den detaillierten Schritten, was muss ich denn wirklich tun, ich da noch irgendwie einen Hyperlink reinpacke, dass derjenige im Prinzip tatsächlich dann seine Anmelde und Login -Daten dementsprechend erneuern muss. habe ich relativ schnell seinen Login und seinen Username dementsprechend durch eine Phishing -Email bekommen. Und was ich noch krasser finde, ist, also wir haben das tatsächlich auch mal wirklich probiert, dass wir eine Phishing -Email geschrieben haben und die dann mit grafischen Elementen bestückt haben und dann wollten wir einen Schritt weiter gehen und haben dann gefragt, sag mal, also für diejenigen, jetzt tatsächlich wirklich wissen wollen, wie für schicke ich denn eine Phishing -Email, Dann hat irgendwann Chet GBT aber gesagt, du pass auf, ich hab irgendwie die Wahrnehmung, dass du gerade was ganz, ganz Böses machen möchtest mit mir. Da handelt es Betrug, war, glaub ich, so der Slogan. Aber wenn jemand jetzt affin ist, kennt diesen kleinen bösen Bruder, der nennt sich nämlich Worm GBT. Und dort bekommst du, wenn du einen Prom schreibst, so von wegen, gib mir doch mal eine passgenaue Anleitung, wie ich eine Spam -E -Mail schreibe. bekommst du innerhalb von fünf Sekunden eine detaillierte Anleitung und sogar noch ein Video, wie verschickst du Spam -E -Mails? Und das finde ich crazy.

Nermin: Ja, nein, die Diskussion finde ich echt schön. Das eröffnet so viele verschiedene Abzweigungen, die dieses Gespräch jetzt hier nehmen kann. Aber eine Sache, die mich tatsächlich so interessiert ist, muss denn die Phishing tatsächlich so perfekt sein? ich habe solche Initiativen früher mal gemacht und es war erstaunlich,

Eva: Das ist total kreativ.

Manuel Blessing: Ja.

Nermin: dass das auch mal ein Rechtschreibfehler ist, für manche Leute natürlicher erscheinen lässt, als wenn es so überperfektioniert richtig erscheint. Gerade in persönlichen Ansprachen. Nicht so wie PayPal von Microsoft und Amazons der Welt. Da erwartet man korrekte Sachen. Aber wenn es eher den persönlichen Touch geht, habe ich mal diese Erfahrung gemacht, dass dieses ein bisschen drüber oder das nicht Perfekte, wenn es dann quasi menschlicher wirken lässt. und die Leute dann eher geneigt sind, persönliche Sachen vorzugeben, wenn es tatsächlich eben Enkeltrick. Enkeltrick glaube ich, keiner erwartet von seinem Enkel perfekte Rechtschreibung. Und es wahrscheinlich dann in der Kombination mit Bild und Stimme wahrscheinlich dann noch noch kompletter ist. Aber ich weiß nicht, wieso ist es aus seiner Erfahrung? Ist es so dieses perfekte Fishing tatsächlich eher so in Richtung von Geschäftsgebaren notwendiger und tatsächlich so diese, jetzt höherwertigeren Ziele anzugehen und im Vergleich zu denen, ich tatsächlich, wieder zurück zu dem Thema Social Engineering zu kommen, wo es tatsächlich einen Menschen irgendwie triggert, ob es da auch schon so perfekt sein muss, dass ich ChatGP, ich kann auch ChatGPT sagen, der soll Rechtscheibfehler reinstreuen, es ehrlich zu machen, genau, genau, was ist es so, wo, denkst du, wohin geht diese Reise mit Fishing?

Eva: Ich wollte sagen, kannst du das sagen? Stell dir vor, ich bin fünf.

Manuel Blessing: Hahaha!

Manuel Blessing: Ich ist zielgruppenspezifisch tatsächlich. Also will es, und ich spreche jetzt mal einfach mal im Aspekt von Social Engineers, will es zielsubjekt will ich denn angreifen? Also will ich den CEO von einer weltweiten großen DAX -Gesellschaft angreifen? Oder möchte ich tatsächlich die Privatperson angreifen? Und was will ich dann mit der Phishing -Email erzeugen? Also will ich irgendwelche Bankdaten dementsprechend stehlen? Will ich irgendwelche Logins dementsprechend oder Passworts erreichen? Oder was ist so der Hintergrund? Was will ich dementsprechend erreichen? Aber ich bin bei dir. Rechtschreibfehler und grammatikalische Fehler machen das natürlich schon ein Stückchen weit menschlich. Die Frage ist halt, wenn man jetzt die klassische Paypal -Email hernimmt, wie hoch Also wie hoch ist das Trust Level? Wie hoch ist das Vertrauen, wenn ich jetzt dort grammatikalische Fehler reinsetze? Und ich glaube in dem Kontext, also ich glaube es ist ganz ganz spezifisch auf das Zielsubjekt auszuüben. Wen möchte ich denn tatsächlich angreifen und was möchte ich denn dementsprechend erreichen? Und in einem Phishing -E -Mail kann ja auch ein Video dementsprechend platziert werden wie ein Deepfake. Also das wäre die nächste Steigerung, oder?

Nermin: Aber das ist, was meine ich, wahrscheinlich einfach je nachdem wie...

Eva: Ja, voll.

Nermin: was das Ziel ist, wie du ja selber gesagt hast. Ich kenne Kinder aus meinem Umfeld, die bei meinen Eltern, die, keine Ahnung, wenn sie vom PayPal eine E -Mail bekommen, dass ihr Konto gesperrt wird, wenn sie sich nicht innerhalb der nächsten 24 Stunden anmelden und ihr Passwort verifizieren. Wo ich sage, entspannt euch, ihr habt gar kein PayPal -Konto. Aber trotzdem fühlen die sich getriggert, irgendwas zu tun, weil das so geschrieben ist. Dass man sagt, es entsteht irgendeine Art von Dringlichkeit. Und wenn ich es nicht tue, passiert irgendwas. Und dann neigen ja durchaus Leute

Manuel Blessing: Haha

Nermin: tatsächlich einfach was zu tun. Ich will dieses Dringliche erstmal weg haben und kann dann später verifizieren, ob das irgendwie gut war oder nicht. Und das finde ich schon echt krass.

Manuel Blessing: bin ich voll bei dir. Vor allem auch, du hast vorher dieses gute Wort gesagt, was triggert denjenigen. Und da kommt dann halt bei mir zu dieser Fragestellung, was möchte ich ausnutzen? Ist es die Hilfsbereitschaft? Ist es das Vertrauen? Ist es Angst? Also Angst ist ja auch echt etwas, wo echt ganz, ganz viele Menschen vor allem durch diese Corona -Zeit extrem allergisch reagieren. Ist es Respekt vor Autorität? Und daraus resultiert, da gibt es sich halt so ein Gesamtbild. Und Profis wissen halt, wo sie genau an welchen Triggerpunkt ran müssen. Hochpsychologisch eigentlich.

Nermin: Gut.

Eva: Ja, gerade auch innerhalb von Unternehmen, wenn dann von deinem Chef eine Nachricht kommt und du bist vielleicht eh gerade in einer gestressten Verfassung oder fühlst dich gerade nicht so selbstbewusst und der fordert dich auf, genau jetzt zügig etwas zu tun, dann ist das schon echt richtig fies, weil wenn du eh unter Dampf bist im Stress und dann kommt das in dein Postfach und du liest recht nur quer

Manuel Blessing: Mhm.

Manuel Blessing: Mhm.

Eva: Deine Wahrnehmung ist geschärft auf Kritik. So ist es ja nun mal manchmal. Dann bist du so, mein Gott, und machst das ganz schnell. Und dann ist auch noch hinterher dann... Ja, da fühlst du dich ja furchtbar, wenn du reingefallen bist, Aber du sag mal, ich hab mal eine Frage.

Manuel Blessing: Gönnen!

Eva: so ganz konkret, weil ich hab da auch noch nicht so richtig der Weisheit Lösung gefunden. Was können denn Einzelpersonen tun, sich gegen Social -Engineering -Angriffe wirklich zu schützen? was kann ich tun, mich zu schützen? Kannst jedermann raten?

Manuel Blessing: Also ich würde sagen, ich würde es mal ganz greifbar machen und dann wieder auf Headline -Ebene zurückkommen. Wenn ich jetzt gerade das Thema Enkeltrick anschaue. Ich habe vorher erzählt, wie schnell es geht. Ich brauche eine 5 -sekündige Aufnahme, da kann ich meine Stimme im Prinzip nachformulieren und kann über Voiceify gehen und kann dann sagen und so, ich rufe meine Oma an und sag mir, dass etwas Schlimmes passiert oder ich brauche dringend Geld, weil ich sitze im Urlaub fest und ich komme nicht weiter und so weiter und so fort.

Eva: Ja.

Manuel Blessing: dann hilft es vielleicht einfach auch mal so ein Keyword zu benutzen. Also wirklich einen privaten Aspekt. Also wenn ich meine Oma anrufe, ich weiß total Confuse, aber ich weiß aus dem Bekanntenkreis, dort ist es tatsächlich schon mal passiert und dort war dann die Überlegung, hey komm schaff den Keyword. Also wenn ich anrufe, erst Instanz Keyword. Wenn du jetzt mich fragen würdest, wie kann man sich denn wirklich schützen?

Eva: Cool Idee.

Manuel Blessing: Richtung Social Engineering. Ich glaube, das Thema Bewusstsein und Sensibilisierung schaffen. Und ich habe, das ist, glaube ich, nicht mein Wort, ich habe das mal in guten Buch gelesen, dieses Thema Clou, das steht für konstant lernen und wachsen. Und ich glaube, und ihr habt es vorher auch schon richtig geteasert, das Thema Cyber Security, da bilden sich ja auch viele IT -Erteilungen ein. Ja, wir haben doch eine Einheit, die nennt sich Cyber Security und die ist dafür verantwortlich. Und bei dem Thema Social Engineering geht es halt so viel mehr. Also es geht so viel mehr. Es geht den Faktor Mensch und der Faktor Mensch ist einfach das absolut schwächste Glied in der Sicherheitskette. Und ich glaube, es hilft, es helfen regelmäßige Schulungs und Trainings, Informationskampagnen, aber auch wirklich in einem Unternehmen ganz greifbare Beispiele. Also wirklich ganz, ganz greifbar, dass man wirklich einfach auch mal so ein Deepfake -Video mal wirklich echt exemplarisch aufmalt oder dass so eine Phishing -E -Mail exemplarisch aufmalt. dann halt, also dann geht's dann halt weiter mit anderen Komponenten, wo ich jetzt beliebig ausschmücken könnte.

Eva: Da ist mir auch gerade eine Idee gekommen, dass dieses Voiceify gesagt, eigentlich wäre es doch auch wirklich gut, weil wir sind ja hier, Nermin und ich, die größten Verfechter von erfahrungsbasiertem Lernen, weil das ist das, was du fühlst und dir merkst und damit auch abspeicherst. Und eigentlich müssten wir alle auf dieses Voiceify, was du gesagt hast, gehen und mal unsere Eltern anrufen. Und zwar jetzt gerade so, dass ja nichts passiert.

Manuel Blessing: Mhm.

Manuel Blessing: Ja.

Eva: Wahrscheinlich werden Sie es nicht merken, vielleicht auch doch, dann können wir beruhigt sein und wenn doch, kann man nämlich genau so, schau, das ist heute möglich, ich weiß, das ist verrückt, aber es ist möglich und deshalb ein Code -Wort. Also nicht nur das Code -Wort, sondern einmal die Erfahrung machen lassen oder auch in Unternehmen, ja, aus den Abteilungen, dass Leute ja, fish a friend, call a friend, was auch immer, Kampagne machen.

Manuel Blessing: Ja.

Eva: und sagen so, wir machen das jetzt mal und dann kommt dieses ganze Gefühl und das ist wie mit der Herdplatte. Mir können alle sagen, fass da nicht ran, bis ich nicht selber einmal diese Hitze gefühlt habe, werde ich das einmal probieren. Ich kenne keinen, der einfach nur drauf gehört hätte.

Manuel Blessing: Haha.

Nermin: Ich weiß nicht, ist das wirklich praktikabel? Wir kommen jetzt quasi alle so aus der Branche, aber wenn man jetzt einfach mal das mal wegdenkt und so den eben unseren Eltern, Großeltern, Freundeskreis, der nicht in dieser Branche ist. ehrlich, Keyword, ich verstehe, dass das helfen könnte, aber in so einer persönlichen Situation denkst du nicht dran. Du kannst doch nicht permanent Und ich glaube, ist so, dass diese Analogie mit der Herdplatte vielleicht ein bisschen schwierig ist, weil diese Herdplatte ist ja überall. Auch wenn ich dieses Voiceify, wenn ich das höre, wie unterscheide ich dann irgendwann mal, was ist jetzt echt und was ist nicht echt? Oder sehe ich jetzt überall nur noch Herdplatten und spreche mit niemanden mehr? Oder ich schicke jetzt nur noch Briefe, weil das weiß ich, dass es noch irgendwie ankommt und verzichte auf jegliche Digitales. Das ist erfahrungsgetriebene und ich bin vollkommen bei dir, wo sagst, es geht darum, dass wir hier dieses Verständnis, dieses Awareness, Verständnis dafür tatsächlich schaffen, was irgendwie möglich ist. Aber wenn wir daran landen, dass wir quasi nur noch skeptisch unterwegs sind und alles, was wir sehen, in Grunde genommen bezweifeln. Gut kann sein, dass sich die Gesellschaft in die Richtung entwickelt, aber ich finde es schwierig.

Manuel Blessing: Mhm.

Manuel Blessing: Ich bin voll bei dir. glaube, du sprichst tatsächlich auch Themen an die positives Mindset. Das ist ja auch, wie sehe ich tatsächlich die Welt? wie schaue ich... Also wenn ich auch mit mir selbst rede, wie ich nämlich selber war, das sind ja auch Artefakte. Ich glaube, wenn man aus dem Cybersecurity -Bereich kommt, da ist man, glaube ich, von der Grundstruktur immer ein bisschen misstrauisch. Ich denke jetzt mal so ein bisschen. Aber ich meine halt zu wissen, haben uns ja vorher auch unterhalten, Cyber Security geht hoffentlich auch in ganz vielen DAX -Unternehmen, hoffentlich auch in gleich mittelständischen Unternehmen jetzt so weit, halt wirklich echt auch in das Personal investiert werden muss. ich bin voll bei dir. Was macht es mit den Menschen, wenn du jetzt tatsächlich

Nermin: Da muss man schon bisschen kaputt im Kopf sein, sonst wäre man das nicht wahr.

Eva: Du hast einen in Knax.

Manuel Blessing: so einen Vortrag evaluierst, passt auf Leute, wie leicht es eigentlich mittlerweile ist, so ein Deepfake -Video zu kreieren. Über euch. Crazy. Also du schockst ja die Leute richtig. Aber auf der anderen Seite... Ja.

Nermin: Ich war selber geschockt. Ich bin ja in der Industrie und mache das in der Zeit lang. Ich bin AI -Freund, kann man sagen. Aber ich habe tatsächlich so ein Selbstexperiment gemacht und tatsächlich meine eigene Stimme aufgenommen und dann irgendwie prompts geschrieben, Texte vorzulesen, die mit meiner Stimme kommen. Und ich selber weiß, mein Hirn weiß, dass ich das gerade gemacht habe. Mein Hirn hat trotzdem Schwierigkeiten zu unterscheiden und zu sagen, du hörst dich, du erkennst dich wieder. Du weißt aber auch gleichzeitig, das ist nicht das, was du sagen wolltest oder das hast du nicht gesagt, aber du hörst dich selber. Das alleine für mich war das schon schwierig, es in einem weichen Wurzeln zu verarbeiten. Und ich habe es meiner Frau vorgespielt, die hat es nicht unterscheiden können. Es klang so, es ist, kürzere Textabschnitte oder ähnliches. Nichtsdestotrotz bleibt immer so die Frage, was mache ich damit? Kann ich jetzt meiner Frau erklären, du, das nächste Mal wenn du meine Stimme hörst, kann sein, dass ich's nicht bin.

Eva: Ich musste einmal so, es juckt mich so richtig, weil das ist so, du hast ja recht, wenn wir sagen so, können nicht immer misstrauisch sein. Aber du hast, ich glaube, es war die erste oder zweite Folge, Nermin, da hast du gesagt, es gab ganz lange eigentlich nicht wirklich was Neues mit der Technologie. Aber jetzt ist das anders. Und da merke ich auch immer, wie ich auch sehr stark in dieses ethische Thema komme, mit diesem AI. Also was ist jetzt eigentlich der Nutzen? Und das ist jetzt wirklich hoch, auch politisch auch. Also was ist der Nutzen, solche Möglichkeiten völlig unreguliert freizugeben? Weil wir haben jetzt eine digital, also sehr affine junge Leute, also die da sind, die probieren das aus. Ich gehe mal so in Kinderschuhe, ja, der Schulhof. Haha, ich verarsch die jetzt und Mobbing, das Thema, und nehme die Stimme von der großen Liebe. und schickt das dahin mit hier, liebe dich auch. Einfach mal so kurz fühlen, so, äh. Und das ist alles so einfach. Und ich merke richtig, ich finde schon, du hast recht, nämlich die Herdplatte ist überall, aber digital ist auch überall. Ich habe sogar digital immer am Mann und nicht nur temporär, wenn ich in der Küche bin. Das ist immer bei mir. Und diese Also mich treibt das richtig weil ich liebe Fortschritt, ich liebe Innovation. Ich finde das alles toll. Aber wenn ich das gerade alles wieder höre, was da alles anbügt, die perfekte Fishing -Mail, die Kopie, die Sachen daraus finden, ich kann das alles schreiben lassen und dann sage ich Chat -GBT einfach oder Worm -GBT, du auch gesagt hast, fand ich auch krass, als ich das gesehen habe. Also das ist einfach frei verfügbar für jeden.

Manuel Blessing: Mhm.

Eva: Alles klar, aber dann kann ich wieder sagen, gut, ein Messer ist ja auch theoretisch überall verfügbar. Es ist ja Gott sei Dank nur eine Minderheit, die das nicht macht. Aber trotzdem, ich finde das echte, das treibt mich richtig Also das ist so, weil das so leicht ist. Ja, so leicht. Das ist keine Hürde.

Manuel Blessing: Gattet. Bin ich absolut bei euch. Man kann sich ja auch mal die Frage stellen, das Thema GNI AI an sich ist ein Thema, gekommen ist, zu bleiben. Und was ich aus meiner subjektiven Sicht oder ich würde auch mal gern die Frage stellen, auch an die Zuhörer, dass sie sie vielleicht einfach mal selber challangen, vielleicht auch innerhalb

Eva: Ja.

Manuel Blessing: der Organisation, habt ihr denn euer C -Level oder eure Mitarbeiter ausreichend geprieft, höchstmögliche Sensibilisierung bezüglich dem Thema GNI Cyber Security zu erheuchen? Was bedeutet denn überhaupt so ein EU Artificial Intelligence Act? also welche Top 5 Risiken habe ich denn tatsächlich in meinem Business etabliert, tatsächlich daraus resultierend Risikomittelnde Maßnahmen abzuleiten? das Business zu enablen, weil ich glaube, also heutzutage jeder von euch, wenn er eine PowerPoint macht, wie schnell kann ich mittlerweile ein Bild kreieren. Das ist ja super schnell mittlerweile. Also total genial. Oder ich brauche irgendwie kurz eine top formulierte E -Mail. Oder ich habe irgendwie ein Business, habe ich ein Problem und ich kriege so die ersten top sechs Stichworte, worauf ich mich fokussieren muss. Also ich könnte mir nicht mehr wegdenken. Aber auf der anderen Seite Jede Technologie hat halt diese Gefahren und Risiken. Und ich glaube, dort muss man sich einfach echt, ich glaube, von Ziellevel über Mitarbeiter, über die ganze Management -Riege hinweg oder auch im privaten Umfeld, ich glaube, dass Social Engineering und Gene AI nochmal ganz andere Faktoren in der Zukunft auslösen muss. Wenn man jetzt nur von dem ersten Chatbot ausgeht, wie der tatsächlich war und wo wir uns jetzt die letzten Jahre hin entwickelt haben, fassungslos. Also mit was von der technologischen Bandbreite wir vorangehen. Ja, no means sorry.

Nermin: Ja,

Nermin: Nein, ist, wir hatten ja, wird einem in den vorherigen Folgen eben genau dieses Thema gesagt, AI ist hier zu bleiben, dass das das wird nicht weggehen oder sonst irgendwas. Kann natürlich sein, dass natürlich, weil es jetzt überall ist und so viel Derivate ist, dass immer mal diese Blase vielleicht dann auch platzt. Prinzipiell aus meiner Sicht ist das so die die Atombombe, die Erfindung. Es ist etwas da, was was ein unheimlich großes Potenzial hat. Wir wissen, dass wir keine Ahnung Atomenergie auch für was Gutes nutzen können. Aber wir wissen im Grunde genommen auch, dass es für was ganz blödes tun können. Und das ist das, was mich echt so, und ich jetzt schon bereue, dass der Podcast nur eine halbe Stunde ist. Ich habe so viele Fragen im Kopf.

Eva: Ich hab auch noch. Wir können ja ein paar Minuten überziehen. Es ist ehrlich so spannend.

Manuel Blessing: Hahaha

Nermin: Aber ich weiß nicht, was denkt ihr, warum ist das so, dass wir prinzipiell bei jedem technologischen Fortschritt, egal was es ist, grundsätzlich immer so aus dieser Angst heraus akten. Wir hätten AI nutzen können, keine Ahnung, Krebsforschung voranzutreiben, primär. Wahrscheinlich war es sogar involviert, wir wissen es halt nicht. Das ist ja das Problem, es kam auf einmal. Für viele kam es ja auf einmal. die in der ganzen IT und sowas sind, die wissen, okay, es gab hier sowas wie Maschinen -Learning oder sonst irgendwas und gab Algorithmen, gab es ja schon immer. Aber für viele war ja diese künstliche Hintergrunds auf einmal da. Und das ist, ich, ein Punkt, den Eva, du gerade gesagt hast, das mich gerade so ein bisschen getriggert hat. Warum kam das auf einmal so raus und so unreguliert und für alle zugänglich? Und ich glaube, ein Punkt ist eben das, dass sie dieses nutzen in der breiten Masse ja auch wieder nutzen, quasi dieses AI -Dinger wieder schlauer zu machen, weil Leute in der Masse das nutzen und damit ja auch einen Lernfaktor für die künstliche Intelligenz ja selber auch lieferst. Aber primär ist es immer so, dass wir Angst haben und es irgendwie die Leute schneller adaptieren für irgendwas Böses zu nutzen, als das Teil zu nehmen, für irgendwas Gutes zu nutzen.

Eva: Weißt du was? Das ist, darf ich jetzt eine, Gott, kann man das im Podcast? Doch, scheiß drauf. Also, das ist ja, das hat ja auch viel mit Geld und Wirtschaft zu tun. Also wenn wir nicht mehr so viele Probleme haben, brauchen wir ja neue, wieder Lösungen zu bauen, die Probleme wieder zu lösen und wieder Geld einzunehmen und diesen Wirtschaftskreislauf weiter zu befeuern. Das ist jetzt vielleicht eine sehr steile These, aber Fakt ist, das kommt raus.

Manuel Blessing: Ja.

Nermin: Du kannst es rausschneiden, kuhn nicht, aber

Nermin: jetzt wird

Eva: Und es gibt unfassbar viel Arbeit, einfach dadurch, dass das jetzt da ist. Das heißt, wir werden wieder Lösungen bauen müssen, Ideen haben, daran arbeiten und so weiter. Das heißt, das wird auch die Wirtschaft einfach wieder ankurbeln. Oder denke ich da ganz falsch?

Nermin: Mit Sicherheit. Manuel, wir haben dich ja jetzt hier als Experten zu dem Thema. Mich würde es echt interessieren. Denkst du, dass wir wirklich in der Lage sein werden, dieses Thema mit künstlicher Intelligenz, Nutzung? Ich will nicht sagen regulieren, weil regulieren klingt immer politisch. Und ich glaube, können zumindest von unserer Politik, glaube ich, hier keine Regulierung dafür erwarten, die wirklich greift. Aber dass wir es gesellschaftlich hinbekommen, dieses Thema.

Manuel Blessing: Hahaha

Nermin: sinnvoll zu nutzen, sinnvoll in Sinne gesellschaftlich sinnvoll zu nutzen, wie, keine Ahnung, Einsatz von AI in der Medizin oder tatsächlich vielleicht im Recht der Justiz oder wo man tatsächlich so eine Art Unabhängigkeit wartet, kann man so eine Unabhängigkeit tatsächlich irgendwann mal erwarten, dass wir da hinkommen, dass wir sagen, okay, das ist etwas, wo wir durchaus dem vertrauen.

Manuel Blessing: stelle jetzt mal für mich die Frage, was ist, wenn wir es nicht tun? Also was ist wirklich, wenn wir es nicht tun? Du hast vorher dieses Thema Krebsforschung oder Hautkrebs -Screening. Da wird es ja tatsächlich schon echt erfolgreich eingesetzt. Es gibt so viele tolle Projekte, wo Chennai wirklich echt sichtbar wird. Wo wir wirklich Chennai auch in naher Zukunft brauchen. Also wir brauchen diese Systeme. Ich hoffe es zutiefst, dass wir es hinbekommen, vor allem auch in Deutschland, in einem stark regulatorischen Land. Das muss man ja auch wirklich genauso sagen, dass wir tatsächlich, wo auf der einen Seite das Thema Datenschutz und Datensicherheit eine elementar wichtige Rolle spielt, einmal dieses Thema Transparenz, aber auch dieses Thema Forschung oder Forderung von Forschung und Entwicklung zugelassen werden kann. damit sich auch die Menschheit wirklich auch nach vorne entwickeln kann. ich publiziere das jetzt mal wirklich echt vielleicht etwas provokant, aber ich glaube, ich sehe da hingegen auch wirklich echt einen elementaren großen Gamechanger drin, weil, und jetzt komme ich auf meine eigentliche Frage zurück, was ist, wenn wir es nicht zulassen? was macht es uns dann effektiver, effizienter? Also wenn ich mir überlege, wie viele Use -Cases ich im beschäftlichen Umfeld schon dementsprechend daraus resultierend habe, dann denke ich mir so, wow, das ist jetzt erst der Anfang, wo entwickelt sich das jetzt weiterhin? Und wir haben auch vorher über Ängste gesprochen, das macht natürlich auch was mit dem Faktor Mensch etwas. Weil viele denken sich halt in diesem Spiel, brauche ich denn, also werde ich denn dann überhaupt noch mal wahrgenommen? Also braucht es denn meine Arbeitskraft? Und ich glaube, da müssen wir auch Klarheit schaffen. Und ich glaube, wir müssen so viel Klarheit schaffen auf allen Ebenen. das ist echt unglaublich. Gerade auch dieses Thema, wie gehen wir jetzt mit dem Thema Datenschutz und Datensicherheit Also wie können wir sicherstellen, dass die Daten für das Training der Chennai so verwendet werden, dass sie im Einklang mit unseren Datenschutzgesetzen stehen? Dann aber auch klar formulieren, also die Transparenz schaffen in der Organisation.

Eva: Voll.

Manuel Blessing: klar formulieren oder kommunizieren, wann und wie GNI eingesetzt wird und User auch darüber informieren, dass sie halt auch möglicherweise mit KI generierten Inhalten interagieren. Also wenn ich mir auf LinkedIn tatsächlich ab und zu die Post durchlese, da denke ich mir, hat es eine Chatchi BT erledigt und viele claimen das auch tatsächlich, dass sie unten dann hinschreiben, generated by Chatchi BT finde ich jetzt auch tatsächlich cool. Die Frage ist, wenn wir uns zum dritten Mal so schön zusammensetzen, wo soll es tatsächlich hinführen? Ich hoffe es zutiefst, dass es tatsächlich Geschäftsfelder gibt, wo uns das Thema künstliche Inikenz wirklich nach vorne befordert, auch unter anderem im medizinischen Umfeld, weil da brauchen wir es. Da brauchen wir es so stark. einen anderen Bereich, aber auch zusätzlich tatsächlich die Regulatorik haben. dass gewisse Daten und Informationen nicht ins World Wide Web gehen. Und da bin ich echt mal gespannt, wie das tatsächlich echt in der Zukunft ausschauen wird. Mit den ganz vielen Angriffen, wo wir jetzt tatsächlich ausgesetzt sind in der Cybersecurity, wie sicherst du so ein System ab in der medizinischen Branche? Also, das ist echt, das wird, glaube ich, echt zu einer sehr, sehr großen Fragestellung.

Nermin: Ich hätte wirklich eine provokative Meinung dazu. könnt mir zustimmen oder auch nicht. Ich finde, dass diese Masse an Leuten zugänglich gemacht wurde, war ein Fehler. Weil ich glaube ich für eine sinnvolle Nutzung von künstlicher Intelligenz erstmal, sag ich jetzt mal, einen reifen Grad an menschlicher Intelligenz wirklich brauche, es richtig zu nutzen. Wir müssen auf Bleicheflaschen immer noch drauf schreiben, bitte nicht trinken. Wie kann ich dann von quasi von... So wie man erwartet, dass der AI für irgendwas sinnvolles nutzt, werde ich ihm quasi auf normale menschlichen, selbstverständlichen Risiken ja immer noch darauf hinweisen muss, dass man Bleiche nicht trinken sollte oder Messer nur für seinen Verwendungszweck nutzt. Wie kann ich das tatsächlich erwarten, dass Sie KI sinnvoll nutzen? Wir haben ja Beispiele von, glaube ich, in jüngster Vergangenheit von der KI des größten die ja wirklich irgendwie Tipps Leuten geben, die zu, keine Ahnung, Vergiftungen führen, weil du kannst ja mal hier, bevor du irgendwie, ich weiß gar nicht, was das exemplarische Beispiel war, aber es wurde ja tatsächlich empfohlen, eine Chemikalie irgendwie zu sich zu nehmen, damit man das irgendwie löst. Und wie gesagt, wissen ja, Fishing und Social Engineering, wir wissen ja immer noch, gibt ja Statistiken, dass jeder Zweite klickt auf so einen Link, wenn jeder Zweite den Rat, dieser AI folgt. Gut, dann haben das Thema der Überpopulation, das die Welt dann auch reguliert, wenn die Leute anfangen, so was zu folgen. ich finde, das ist tatsächlich ein Fehler gewesen, es allen zugänglich zu machen. Und ich finde, man hätte es dosierter in der Forschung oder tatsächlich halt dann in bestimmten Gruppen von Leuten, die das fachlich, sachlich irgendwie nutzen können, bevor man es der großen Breiten und zum Teil, muss man sagen, dummen Masse zur Verfügung stellt.

Eva: Hohohoho

Manuel Blessing: Lass mich da mal anpüpfen, ganz kurz noch. Dann brauchen wir ja, und dort hat mich auch, ich hab mit der Eva vor drei, Wochen drüber, oder nee, das war glaube ich länger her, acht Wochen sind es so her. Und dabei hat sich ja im Prinzip, und wie fangen wir das jetzt wieder ein? Ein Kollege von mir und ich, ein Partner, die haben gesagt, das Thema Genie -Eyes gekommen, zu bleiben. Der Slogan haben wir für uns gesagt, das ist ein Thema, wo glaub wo wir glauben, das ist nicht mehr wegzudenken. Und wenn du heute tatsächlich in die Welt schaust, sehe ich wenig Cine -AI -Cybersecurity -Schulungen oder Trainings. Und dort sind wir wirklich echt reingegangen, haben gesagt, wir brauchen so ein Ding. Und ich habe mit Eva auch mich dementsprechend schon drüber unterhalten. Und wir haben tatsächlich den Masterclass ausgerufen. Ich will jetzt nicht zu viel Vorbungen machen, aber die hat vor acht Wochen gestartet. Und das war dann echt wirklich etwas, wir gesagt haben,

Eva: voll.

Manuel Blessing: Wir wollen mehr sensibilisieren. Wir wollen ein Training schaffen, Masterclass, wo du kein theoretisches Blabla bekommst. Ja, theoretisches Wissen braucht jeder. Aber auch wirklich mit fundamentale Elemente rauskommst, wo du im Prinzip dich als erstes besser machst, aber auch die Company wirklich besser machen kannst. Und dort ist zum Beispiel zwei Booster und dann bin ich auch schon fertig. Das Thema C -Level Briefing, also wie enable und empower ich das C -Level, höchstmögliche Sensibilisierung zu bekommen. Und was muss denn überhaupt zum Beispiel in einer Risikoanalyse drinstehen, tatsächlich im Chennai -Umfeld zukünftig erfolgreich zu sein. Und ich hoffe zutiefst, das sensibilisiert den ein oder anderen, weil ich habe immer die Warnung, auch wenn ich mit anderen Companies gerade spreche,

Eva: Voll.

Manuel Blessing: Du, Thema Chennai, AI, AI ist das Passwort, schlicht hin, und alles wurde neuert, und wir machen fancy Dinge und use cases. Aber wenn man wirklich mal unter die Motorhobby schaut, ist es denn wirklich so? Also ist es denn wirklich so, dass es wirklich eine Effizienzsteigerung gibt? Und wie muss ich die Daten und Informationen schützen? Wie muss ich denn fundamental rangehen, damit ich wirklich das Thema Chennai, Cybersecurity, ordentlich in die Unternehmen reinbringe. Das wäre für mich glaube ich so ein Ansatz. Jagern!

Eva: Das ist ein wunderbares Schlusswort, lieber Manuel, weil wir brauchen Leute wie dich, die das Thema nach vorne treiben. Und ich würde auch sehr gerne, vielleicht kannst du das mit uns teilen in die Show Notes für unsere Zuhörer packen. Ein Link zu den Seminaren, die du machst, weil das ist wichtig. Befähigung, Befähigung, Befähigung, Education.

Nermin: definitiv

Eva: Und deshalb, ich feier das, dass du das machst. Das ist richtig cool. Ein echtes... Ja, wir brauchen das. Wir brauchen das. Wir brauchen Unterstützung. Und wir Menschen müssen einfach Menschen haben, die... Ja, wir müssen uns unterstützen. Ja, es ist eh das Zeitalter gerade der Gemeinschaft. Also man sagt, zusammen ist man stark. Und das hier ist genauso was. Wir müssen da alle zusammenhalten und uns supporten. Und deshalb, das ist großartig.

Manuel Blessing: Du hast ja auch den Puls gegeben.

Eva: Und wir danken dir ganz herzlich für deine Zeit. war super spannend. ganz viel Spaß gemacht. Und ja, ne?

Nermin: Das hätte Stunden noch so weitergehen können.

Manuel Blessing: Freue mich riesig, dass ihr dabei sein dürft.

Eva: gerne. Ja Mensch, also ihr Lieben, vielen Dank auch für eure Zeit. Liebe Hörer, schaut in die Show Notes. Dort findet ihr diverse Informationen hier nochmal zusammengefasst aus unserem Podcast und schaut auf www .cyberwellness .io nach. Dort findet ihr auch, könnt ihr auch nochmal alles nachlesen und allen eine schöne Woche.

Nermin: Wieder eine

Nermin: Woche. Vielen Dank Manuel. Alles Gute. Bis

Manuel Blessing: Danke! Tschüss!

Eva: Tschüss und even Ciao!