Deutsche IT-Entscheider befürchten mehrheitlich, dass Hacker in naher Zukunft ChatGPT als Tool für Cyberangriffe missbrauchen (English version below).
Laut einer Studie von BlackBerry glaubt die Hälfte (52 Prozent) der IT-Fachleute, dass es innerhalb des kommenden Jahres zu einem erfolgreichen Cyberangriff mit ChatGPT als Ausgangspunkt kommen wird. Zugleich glauben 61 Prozent, dass ausländische Staaten die Technologie bereits für böswillige Zwecke gegen andere Nationen einsetzen könnten.
Die Umfrage unter 500 IT-Entscheidungsträgern in Deutschland ergab, dass die Befragten grundsätzlich davon ausgehen, dass ChatGPT im Allgemeinen mit guten Absichten genutzt werden wird. Allerdings sehen 58 Prozent in der Anwendung eine potenzielle Bedrohung für die Cybersicherheit und sind besorgt. Zwar zeigt die BlackBerry-Studie weltweit unterschiedliche Ansichten, wie sich diese Bedrohung manifestieren könnte.
Dennoch betrachten die deutschen IT-Entscheidungsträger die Fähigkeit von ChatGPT, Hackern dabei zu helfen ihr technisches Wissen zu verbessern und spezialisiertere Fähigkeiten zu entwickeln (46 Prozent), als größte Sorge. Hinzu kommt die Möglichkeit Fehlinformationen schneller und besser zu verbreiten (45 Prozent), sowie der Einsatz für weiterentwickelte und neue Social-Engineering-Attacken (43 Prozent).
„ChatGPT wird seinen Einfluss in der Cyber-Branche im Laufe der Zeit wahrscheinlich vergrößern. Wir erleben zurzeit eine Menge Hype und Panikmache, aber die Branche bleibt ziemlich pragmatisch – und das aus gutem Grund“, erklärt Shishir Singh, Chief Technology Officer, Cybersecurity bei BlackBerry. „Die Vorteile dieser fortschrittlichen Technologie sind vielfältig, und wir stehen erst am Anfang, aber wir dürfen auch die Auswirkungen nicht außer Acht lassen. Je ausgereifter die Plattform ist und je mehr Erfahrung die Hacker mit ihrer Nutzung erlangen, desto schwieriger wird es, sich zu verteidigen, ohne auch KI zur Verteidigung einzusetzen. Ich halte dies für einen rechtzeitigen Schwenk – da ChatGPT und ähnliche Plattformen immer ausgereifter werden und die Hacker, die sie einsetzen, es immer schwieriger machen, unsere Organisationen zu schützen, ohne KI auch defensiv einzusetzen – um das Spielfeld zu ebnen.“
Die Forschungsergebnisse von BlackBerry zeigen auch, dass die große Mehrheit (79 Prozent) der IT-Entscheider plant, in den kommenden zwei Jahren in KI-gesteuerte Cybersicherheit zu investieren. Fast die Hälfte (42 Prozent) zieht eine Investition noch im Jahr 2023 in Betracht. Dies spiegelt die wachsende Besorgnis wider, dass signaturbasierte Security-Lösungen keinen wirksamen Schutz mehr gegen immer raffiniertere Cyberangriffe bieten.
Während IT-Leiter davon überzeugt sind, dass ChatGPT die Cybersicherheit für Unternehmen über kurz oder lang verbessern wird, sind laut Umfrage 90 Prozent der Meinung, dass Regierungen die Verantwortung für die Regulierung fortschrittlicher Technologien tragen. Zurzeit herrscht jedoch ein optimistischer Konsens darüber, dass Experten für Technologie und Forschung perspektivisch mehr von den Möglichkeiten von ChatGPT profitieren als Cyberkriminelle.
„Es ist gut dokumentiert, dass Leute mit böswilligen Absichten das Terrain testen, und wir erwarten, dass Hacker im Laufe dieses Jahres deutliche Erkenntnisgewinne erzielen, wie sie ChatGPT erfolgreich für ihre Zwecke einsetzen können; sei es als Werkzeug, um bessere veränderbare Malware zu schreiben, oder als Hilfsmittel, um ihre Fähigkeiten zu verbessern“, so Singh. „Sowohl Cyber-Profis als auch Hacker werden sich weiterhin damit beschäftigen, wie sie es am besten nutzen können. Die Zeit wird zeigen, wer effektiver ist.“
English version
ChatGPT as a tool for cyber attacks
A majority of German decision-makers fear that hackers will misuse ChatGPT as a tool for cyberattacks in the near future.
According to a study by BlackBerry, half (52 percent) of IT professionals believe there will be a successful cyberattack using ChatGPT as a starting point within the next year. At the same time, 61 percent believe foreign nations could already use the technology for malicious purposes against other nations.
The survey of 500 IT decision makers in Germany found that respondents generally believe ChatGPT will be used with good intentions. However, 58 percent see the application as a potential cybersecurity threat and are concerned. To be sure, the BlackBerry study shows differing views worldwide on how this threat might manifest itself.
Still, German IT decision makers view ChatGPT’s ability to help hackers improve their technical knowledge and develop more specialized skills (46 percent) as the biggest concern. In addition, the ability to spread misinformation faster and better (45 percent), as well as the use for more advanced and new social engineering attacks (43 percent).
„ChatGPT will likely increase its influence in the cyber industry over time. We’re seeing a lot of hype and scare tactics right now, but the industry remains fairly pragmatic – and for good reason,“ said Shishir Singh, chief technology officer, cybersecurity at BlackBerry. „The benefits of this advanced technology are many, and we’re just getting started, but we can’t ignore the implications. As the platform matures and hackers gain more experience using it, it will become more difficult to defend without also using AI to defend. I see this is quite a timely pivot — as the maturity of ChatGPT and similar platforms increases, and the hackers putting it to use make it progressively more difficult to protect our organizations without also using AI defensively — to level the playing field.“
BlackBerry’s research also shows that the vast majority (79 percent) of IT decision makers plan to invest in AI-driven cybersecurity over the next two years. Nearly half (42 percent) are still considering an investment in 2023. This reflects growing concern that signature-based security solutions no longer provide effective protection against increasingly sophisticated cyberattacks.
While IT leaders are convinced that ChatGPT will improve cybersecurity for businesses sooner or later, 90 percent believe governments have a responsibility to regulate advanced technologies, according to the survey. Currently, however, there is an optimistic consensus that technology and research experts stand to benefit more from ChatGPT’s capabilities than cybercriminals, in perspective.
„It’s well documented that people with malicious intent are testing the terrain, and we expect hackers to make significant gains in understanding how to successfully use ChatGPT for their purposes later this year; whether as a tool to write better modifiable malware or as a tool to improve their skills,“ Singh said. „Both cyber professionals and hackers will continue to look at how to best use it. Time will tell who is more effective.“
Dr. Jakob Jung ist Chefredakteur Security Storage und Channel Germany. Er ist seit mehr als 20 Jahren im IT-Journalismus tätig. Zu seinen beruflichen Stationen gehören Computer Reseller News, Heise Resale, Informationweek, Techtarget (Storage und Datacenter) sowie ChannelBiz. Darüber hinaus ist er für zahlreiche IT-Publikationen freiberuflich tätig, darunter Computerwoche, Channelpartner, IT-Business, Storage-Insider und ZDnet. Seine Themenschwerpunkte sind Channel, Storage, Security, Datacenter, ERP und CRM.
Dr. Jakob Jung is Editor-in-Chief of Security Storage and Channel Germany. He has been working in IT journalism for more than 20 years. His career includes Computer Reseller News, Heise Resale, Informationweek, Techtarget (storage and data center) and ChannelBiz. He also freelances for numerous IT publications, including Computerwoche, Channelpartner, IT-Business, Storage-Insider and ZDnet. His main topics are channel, storage, security, data center, ERP and CRM.
Kontakt – Contact via Mail: jakob.jung@security-storage-und-channel-germany.de