6 Haziran 2023 - Netizenlist.com

ChatGPT Trafiğini Palo Alto Networks App-ID ile Güvenceye Alma ve Yönetme
Cecilia Hu

Gizli tutulması gereken bir sözleşme üzerinde çalıştığınızı ama yabancı dil ve yazım konusunda kararsız olduğunuzu düşünün. Sonra yazınızı mükemmel hale getirecek güçlü bir yapay zeka (AI) aracı buluyorsunuz. Sözleşmenizi hemen yapay zekaya gönderiyorsunuz, bu AI aracı da görevini yerine getiriyor. Fakat sonra gizli belgenizin yapay zeka modeline aktarıldığını ve yapay zeka öğreticileri tarafından incelenme olasılığı olduğunu fark ediyorsunuz. Daha da kötüsü, sözleşmeniz modeli eğitmek için kullanılabilecek ve diğer kullanıcıların çıktılarında görünebilecek. Nasıl tepki verirdiniz? AI araçlarının kullanılabilirliği ve güvenliği konusundaki ikilem, ChatGPT pazara sunulduğundan bu yana gerçek bir endişe haline gelmiş bulunuyor.

OpenAI tarafından geliştirilen ChatGPT, OpenAI’ın GPT-3.5 ve daha yakın tarihli GPT-4 modelleri üzerinde kurgulanan bir yapay zeka chatbotu. Aylık aktif kullanıcısı 100 milyonu aşan ChatGPT bugün internette en çok konuşulan AI ürünü haline geldi.

ChatGPT; doğal dil üretme, soruları yanıtlama, duygu analizi, çeviri ve içerik üretme gibi özelliklere sahip. Öte yandan, ChatGPT etkileyici doğal dil işleme (NLP) kabiliyetine karşın intihal, gizlilik ve veri sızıntısı gibi konularda pek çok endişeye de yol açıyor.

ChatGPT ile İlgili Güvenlik Kaygıları

İtalya, yapay zeka aracının ülkenin veri toplama politikalarını ihlal ettiğine ilişkin endişelerin artmasıyla birlikte Mart ayında ChatGPT’yi geçici olarak yasakladı. Bu arada Amazon ve Walmart gibi şirketler de aksiyon almaya başladı. “ChatGPT gibi AI sistemleriyle bilgi paylaşmayın, AI chatbot ile kod paylaşmayın” gibi mesajlarla çalışanlarını üretken AI hizmetlerini kullanırken dikkatli olmaları için uyardılar. Bu sırada Uzakdoğulu büyük bir üreticinin çalışanlarının ticari sır verilerini yanlışlıkla ChatGPT aracılığıyla sızdırdığı ortaya çıktı. Sözü edilen ChatGPT kabiliyetlerine bağlı olarak güvenlik endişeleri çeşitli şekillerde daha da artabilir. Örneğin, gömülü çeşitli gizlemelerle saldırganların kötü amaçlı kod yazmasına yardımcı olabilir. Sosyal mühendislik saldırılarına daha fazla içerik sağlayarak saldırganların inandırıcı kimlik avı içeriği üretmek için ChatGPT’den yararlanmasına yol açabilir. Dahası, insanların modele hassas veriler gönderebilme olasılığı ve bu bilgilerin daha sonra ele geçirilebileceği düşünüldüğünde veri sızıntısı gibi güvenlik riskleri de söz konusu olabilecektir.

Unit 42 araştırmacılarının bir süre önce yayınladığı bir blog yazısına göre, ChatGPT temalı dolandırıcılık saldırılarının yükselişte olduğu görülüyor. Araştırmacılar, Kasım 2022 ile Nisan 2023 başları arasındaki dönemde ChatGPT ile ilişkili alan adı tescillerinin ayda %910 arttığını ve DNS Güvenlik loglarından ilgili alan adı işgallerinde %17.818 oranında artış olduğunu tespit ettiler. Dolandırıcıların kullanıcıları kötü amaçlı yazılım indirmeye veya hassas bilgileri paylaşmaya ikna etmek için yararlandığı çeşitli yöntemleri göstermek için pek çok vaka çalışması sundular. Taklit chatbot kullanmanın olası tehlikelerini vurgulayan araştırmacılar ayrıca ChatGPT kullanıcılarını bu tür chatbotlara temkinli yaklaşmaları için uyarıyor. Advanced URL Filtering, DNS Security ve WildFire abonelikleri bu soruna yanıt veriyor.

OpenAI ile İlişkili App-IDler

En son yapay zeka trendlerini titizlikle takip eden Palo Alto Networks, bunlarla ilişkili potansiyel tehditleri aktif olarak değerlendiriyor. OpenAI bağlantılı trafiğin görünürlüğünü artırmak ve aynı zamanda müşterilerimizin Gelecek Nesil Güvenlik Duvarlarımızla (NGFWlar) ChatGPT kullanımını yönetmelerine ve kontrol altında tutmalarına yardım etmek için Nisan ayında openai-base, openai-chatgpt ve openai-api olmak üzere üç OpenAI bağlantılı App-ID sunduk.

openai-base: ChatGPT haricindeki genel OpenAI trafiğini kapsıyor. Bu App-ID, OpenAI araştırmasıyla ilgili ağ trafiğini, geliştiricilerin eğitim ve dokümanlarını, şirket bilgilerini ve ürünlerini (DALL·E gibi) kapsayacak. Ayrıca OpenAI web sitesindeki NGFWların trafik loglarında openai-base olarak gösterilecek.

openai-chatgpt: Sıradan ChatGPT kullanıcılarına daha genel bir kullanım yolu sunan web tabanlı bir ChatGPT ara yüzünün trafiğini kapsıyor.

openai-api: Sadece ChatGPT’yi değil aynı zamanda OpenAI’ın görüntü üretme gibi diğer özelliklerini de içeren API bağlantılı tüm trafiği de kapsıyor. OpenAI, APIlerin programlı olarak AI modellerine erişebilmesini sağlıyor. Geliştiricilerin ChatGPT’yi kullanmasının daha genel bir yolu olan OpenAI APIleri aracılığıyla ChatGPT’yi destekleyen GPT-3 ve GPT-4 gibi AI modellerine erişilebiliyor.

OpenAI trafik yönetim sürecini sadeleştirmek amacıyla yukarıdaki üç App-ID ile birlikte bunları içeren App-ID toplayıcı bir openai da sunuldu (bakınız Şekil 1).

Şekil 1. Güvenlik Politikası Kuralı için OpenAI App-IDler

OpenAI Trafiğini Güvenlik Politikalarıyla Yönetme

Bu üç OpenAI App-ID, Palo Alto Networks NGFW müşterilerinin ChatGPT’ye erişimi esnek bir şekilde kontrol altında tutmasını ve yönetmesini, farklı ara yüzlerden üretilen OpenAI trafiğini net olarak görebilmesini sağlıyor. Bu üç App-ID ayrı ayrı tanımlandığı için sadece openai-base engellendiğinde openai-chatgpt veya openai-api engellenmiyor.

taban	chatgbt	API	politikanın sonucu
✅	✅	✅	OpenAI bağlantılı tüm trafiğe izin verilecektir.
✅	✅	????	Genel OpenAI trafiğine ve web tabanlı ara yüzlerden ChatGPT trafiğine izin verilecektir. API’lerden ChatGPT trafiği engellenecektir.
✅	????	✅	Genel OpenAI trafiğine ve API’lerden ChatGPT trafiğine izin verilecektir. Web tabanlı ara yüzlerden ChatGPT trafiği engellenecektir.
✅	????	????	Genel OpenAI trafiğine izin verilecektir. Web tabanlı ara yüzlerden ve API’lerden ChatGPT trafiği engellenecektir.
????	✅	✅	Genel OpenAI trafiği engellenecektir. Web tabanlı ara yüzlerden ve API’lerden ChatGPT trafiğinin çoğuna izin verilirken bazı özelliklerden yararlanılamayacaktır.
????	✅	????	Genel OpenAI trafiği ve API’lerden ChatGPT trafiği engellenecektir. Web tabanlı ara yüzlerden ChatGPT trafiğinin çoğuna izin verilirken bazı özelliklerden yararlanılamayacaktır.
????	????	✅	Genel OpenAI trafiği ve web tabanlı ara yüzlerden ChatGPT trafiği engellenecektir. API’lerden ChatGPT trafiğinin çoğuna izin verilirken bazı özelliklerden yararlanılamayacaktır.
????	????	????	OpenAI bağlantılı tüm trafik engellenecektir.

Şekil 2. OpenAI App-IDlerin Güvenlik Politikası Konfigürasyonu

Üç App-ID aracılığıyla OpenAI trafik yönetimi için güvenlik politikaları konfigürasyonu farklı senaryolar gösteriyor. Şekil 2’deki güvenlik politikası kuralında ✅ “izin ver”, ???? “reddet” anlamına geliyor.

Bir App-ID’ye izin vermek istiyorsanız, uygulamanın tamamıyla işlevsel olması için “bağlantılı” App-IDlere de izin verilmesi gerektiğini belirtmeliyiz. Örneğin, openai-base App-ID; SSL, web-tarama ve WebSocket ile bağlantılıdır. Openai-base ile birlikte bu üç App-ID’ye de izin verilmelidir. Benzer olarak openai-chatgpt veya openai-api’ye izin vermek istiyorsanız, openai-base (“bağlantılı” üç App-ID dahil) için tam erişim izni verilmelidir.

Yapay Zekanın Getirdiği Yeni Zorluklar

Popülerliği giderek artan ChatGPT AI uygulaması günümüzün dijital dünyasına yeni zorlukları ve tehditleri de beraberinde getiriyor. Palo Alto Networks NGFW, sahip olduğu üç OpenAI App-ID ile müşterilerini ChatGPT kullanımını ve erişimini esneklikle kontrol altında tutmaları ve yönetmeleri için güçlendiriyor. Bu App-IDler ayrıca enterprise ağ yöneticilerine ChatGPT kullanımını daha iyi görme imkanı sunuyor. Bu sayede enterprise ağ güvenliği artırılırken potansiyel veri ihlali riskleri azaltılıyor. Enterprise DLP de ChatGPT’ye veri sızmasını engellemeye yardımcı oluyor.

ChatGPT gibi başka büyük dil modeli tabanlı chatbotlar var ve ileride daha fazlası olacak. Biz de bugün ve gelecekte müşterilerin bu yeni endişelerini ele almalarına yardımcı olacağız.

OpenAI bağlantılı App-IDler hakkında daha fazla bilgiyi Palo Alto Networks’ün Uygulama Araştırma Merkezinde bulabilirsiniz

Kaspersky, Çocukların Dijital Tercihlerini Araştırdı

Günümüz çocukları küçük yaştan itibaren dijital cihazlarla iç içe yaşıyor. Sanal dünyayı erkenden keşfeden çocuklar, buralardan arkadaş edinip, oyun oynayarak ve pek çok şeyi öğrenme fırsatı yakalıyor.

Araştırma Mayıs 2022 ve Nisan 2023 tarih aralığını kapsayan ve anonimleştirilmiş verilere (arama sorguları, en sık kullanılan uygulamalar ve en çok ziyaret edilen web siteleri) dayanıyor. Veriler, Kaspersky Safe Kids kullanıcılarının izniyle elde ediliyor. Verilerin analiz edilmesi, uzmanların yıl boyunca çocukların ilgi alanlarını anlamalarına yardımcı oluyor.

Dünya çapında YouTube’da çocukların en çok eğlence içeriği oluşturan kanalları ve blog yazarlarını aranıyor. Örneğin, challenges veya yaşam tarzı klipleri gibi yayınların aranması tüm sorguların %19’unu oluşturuyor. Çizgi filmler, TV şovları ve anime (% 17) ikinci en popüler konular oluyor Üçüncü sırada ise müzik videoları (%15,7) yer alıyor. Aramaların %15,5’ini ise oyun bloggerları, %10’unu ise diğer oyun içerikleri oluşturuyor. MrBeast ve SSSniperWolf, bloggerlar ve kanallar arasında küresel olarak en popüler isimler arasında yer alıyor.

Çocukların en çok aradığı şarkı, Baby Shark; En sevdikleri oyunlar Brawl Stars, Fortnite, Genshin Impact ve Stumble Guys

Çizgi filmler arasında çocuklar en çok Miraculous: Tales of Ladybug & Cat Noir 5. sezonu ve daha önce My Story Animated isimli MSA’yı arandığı görülüyor. Chainsaw Man, Demon Slayer ve One Piece, animeler arasında lider konumda ve en sevilen filmler ise Super Mario Bros. Movie, Black Panther: Wakanda Forever, Rock Dog 3: Battle the Beat olarak karşımıza çıkıyor.

Baby Shark’ın ise çocukların en çok aradığı şarkı oluğu görülüyor. Müzikal tercihler açısından Koreli pop grupları BLACKPINK ve BTS, Porto Rikolu sanatçı Bad Bunny ve genel olarak rap türü lider konumunda yer alıyor.

Aphmau, Dream ve Technoblade, oyun blog yazarları arasında en çok aranan isimlerden olarak karşımıza çıkıyor. Roblox ve Minecraft dışında çocukların en sevdiği oyunlar Brawl Stars, Fortnite, Genshin Impact ve Stumble Guys. Diğer popüler aramalar arasında ise Gacha Life ile ilgili sorgular bulunuyor. Buna oyun videoları, TikTok, mini filmler ve daha fazlası da dahil.

Son bir yılda, “beluga”, “skibidi bop“, “gigachad” ve “countryhumans” çocuklar arasında en popüler olan mizah içerikleriydi. ASMR videoları – fısıldama, gevrek sesler, yavaş hareketler gibi kişinin rahatlamasına neden olan videolar – ayrıca çok popülerdi. “Asmr eating” ve “asmr makeup” en çok aranan başlıklar arasındaydı.

Beluga kedisi

Güvenilir ebeveyn asistanı çözümü

Kaspersky web içerik analizi uzmanı Anna Larkina, “Geçen yıl çocuklara hitap eden içerikler oldukça zengindi. Çocuklar arasında sürekli popüler olan Evergreen temalarına ek olarak, yeni çıkan animasyon filmleriyle bağlantılı birçok “mevsimlik” hikaye vardı. Aynı zamanda, tüm bu eğilimler çocuklar için eşit derecede önemli ve ilgi çekici. Bu, ebeveynlerin de kendi çocuklarıyla daha güvenilir ilişkiler kurmak için mevcut eğilimlere katılabileceği ve bunlara daha yakından bakabileceği anlamına geliyor. Ailelerin güvenilir bir ebeveyn asistanı çözümü kullanmaları onlara oldukça yardımcı olabilir. Bu çözümler çocukları çevrimiçi ortamda güvende tutmanın yanı sıra, ebeveynleri çocukların ilgi alanlarının ne olduğu konusunda bilgilendirebilir” diyor.

Çocukların olumlu bir çevrimiçi deneyim yaşamalarını sağlamak için Kaspersky, ebeveynlere aşağıdaki gibi tavsiyelerde bulunuyor:

Çocuklarınızın çevrimiçi faaliyetlerine erken yaşlardan itibaren dahil olun, böylece onlara çevrimiçi güvenlik uygulamaları konusunda rehberlik edebilirsiniz.
Bu tür uygulamaların nasıl çalıştığını açıklamak için ebeveyn kontrolü uygulamalarını kullanmayı ve bu konuyu çocuğunuzla konuşmayı düşünün. Özellikle Kaspersky Safe Kids çözümü, Kaspersky Premium aboneliği içinde bulunuyor.
Çocuğunuzla siber güvenlik konusunu oyunlar ve diğer eğlenceli formatlar aracılığıyla konuşarak, siber güvenlikle ilgili konuşmaları daha etkili ve ilgi çekici hale getirebilirsiniz.
Çevrimiçi güvenlik önlemleri hakkında çocuklarınızla iletişim kurmak için daha fazla zaman harcayın.
Çocuğunuzdan herhangi bir gizlilik ayarını kendi başına kabul etmemesini ve bunun yerine sizden yardım istemesini isteyin. Yetişkinler ise ayrıca tüm gizlilik sözleşmelerini okuma alışkanlığı kazanmalıdır.

Robottan ne farkın var?
Atıf Ünaldı

Yapay zeka çağı geldi çattı. Özellikle bu yeni nesil “Generative AI” (üretici yapay zeka) aman “jeneratif” demeyin o kadar hızlı üretim yapıyor ki; yaratım süreçlerinde bulunanlar işin bu kısmından korkar oldu. Öyle ya, iki hafta arka arkaya köşe yazısı yazamayanlar (bir kere yazmak köşe yazmak değildir) ChatGPT ile bir kitap yazmaya başlıyorlar. Yani Noah Hariri’nin süper insan kavramı, Neitche’nin üstinsanından mı dayanak buldu bilemem ama, yapay zeka bu yolu üretim ve yaratım süreçlerinde çok hızlı açtı.
Bu da birbirine benzer işlerin sayısını eskisinden daha fazla çoğalttı ve aslındaentellektürel yaratıcı kişilerin hayatını zorlaştırdı. Zira amacımız birbirine benzeyen işler yapmak değil, bu klişelerden uzaklaşmak. Bizim gibiler yaratım süreçlerinde yapay zekanın insanlığı klişeye düşmesinden kurtarmak için yapay zekadan nasıl yararlanabiliriz diye düşünedursun, bir grup yapay zeka hatta teknoloji kullanmadan, kendini klişeler içinde sadece yaratıcılığından değil, insanlığından oluyor.
Örnekse, şu yılllar önce tanıştığım TED konuşmaları. Teknoloji, eğitim ve tasarım alanında dünyanın en büyük beyinlerinin yaptığı konuşmalar, daha sonra lokalize olabilsin diye TEDx ismi ile yapılır oldu.
İşin içine de tabi batılıların en büyük gücü ama aynı zamanda en yumuşak karnı, satandartlaşma girdi. TEDx’in mevzuatını eline alan bir kırmızı sahne önüne iki konuşmacı atmaya başladı. Hadi buradakini standart diye çeker olduk, adamın etki de en çok seyredilen TED konuşmalarının analizini yapmasın mı? Hani kötülüğe giden yolun taşları iyi niyetle döşeniri anlatmak için case study (vaka analizi) resmen.Bunun üzerine birisi de “TED GİBİ KONUŞ” diye bir kitap çıkarınca o güzelim konsept yerini mide kramplarına bıraktı. Öyle bir klişe oluştu ki hangi konuşmayı seyretsen 2. Dakikada bir iç çekiş, kendinden örnek verme, aralarda sessizlik, hepsi klişe. Hatta klişe oğlu klişe.
Yahu yapmayın etmeyin. Bu yapay zeka çağında kimsenin bu tip klişelere ihtiyacı yok. Sizin karakteriniz, üslubunuz yok mu? Robot musunuz?
Youtube’da “kanalıma hoşgeldiniz” diyen “influencer”dan bir farkınız olsun. Orada da sahne düzenlemesi, alan derinliği vereceğim diye arkayı aydınlatma klişesi aldı başını yürüdü. Xoom’da arkaya konulan kütüphane, derken her yanımız klişelerle doldu. Yahu bunları size kim öğretiyorsa, inanmayın. İnsanoğlunun özelliği bir tane olmasındadır. Hepiniz aynı şeyi yapacaksanız, robottan ne farkınız kalır?

Cehennem’in 8. Çukuru
Prof. Dr. Mustafa Zihni Tunca

Dante, İlahi Komedya adlı eserinde Cehennem’i anlatırken 8. çukuru hilecilere, bu çukurun 4. hendeğini ise kahinlere ayırmıştır. Geleceği doğru olarak görebildiğini iddia eden bu kişilere verilen ceza, sonsuza dek başları dönük bir şekilde geriye bakarak, önlerini hiç görmeden yürümektir.

İki hafta içerisinde Rahmetli Barış Manço’nun kaybedeni olmayan “Adam Olacak Çocuk” programında olduğu gibi herkesin kazandığı iki seçim birden gerçekleştirdik. Her ne kadar seçimlerin siyasi kısmı bol kazananlı tamamlanmış olsa da, bir de tahminlerin gerçekleştiği seçim anketleri vardı ki, maalesef yurtdışı merkezli bahis şirketleri bile ülkemizdeki araştırma şirketlerinin büyük bir kısmından daha başarılı bahis oranları ile seçim sonuçlarını tahmin etmeyi başardı.

İstatistik, verileri toplayıp analiz etmek, yorumlamak ve sunmak için kullanılan yöntemlerden oluşan bir bilimdir. İstatistik biliminden tıptan mühendisliğe, ekonomiden psikolojiye kadar tüm disiplinler yararlanır ve sınırlı miktarda veriyi analiz ederek bütüne yönelik öngörülerde bulunurlar.

Hâl böyleyken, seçim sonuçlarına ilişkin öngörülerde bulunmak için siyasi partilerin ya da basın kuruluşlarının önemli miktarlarda paralar akıttığı araştırma şirketlerinin seçimlerin sonuçlarına yönelik başarısızlıklarının sebepleri mutlaka araştırılmalıdır. Çünkü, istatistiksel açıdan baktığımızda, bir projeksiyonun başarısızlığının ardında ya kullanılan veriler, ya analizler ya da yorumlama aşamasına yaşanan sorunlar yatıyordur.

Seçim örneği üzerinde gidersek, eğer veriler eksik ya da hatalı toplanmışsa, farklı demografik özelliklerde seçmen davranışlarını yeterli şekilde temsil edemeyeceği için sonuçların hatalı olması muhtemeldir. Benzer bir şekilde, verilerin yapısına uygun istatistiksel yöntemler kullanılmaması ya da bulguların yanlış yorumlanması durumunda da benzer sıkıntılar yaşanabilir.

Bir de kasıtlı olarak sonuçların manipüle edilme ihtimali var ki, kamuoyunun hatalı yönlendirilmesine yönelik sosyal ağlarda gerçekleştirilen dezenformasyon kampanyaları ile seçim sonuçlarının arzu edilen yönde evrilmesine yönelik çabalarda bulunulabilir.

Kişisel görüşümü sorarsanız, sonuçları kamuoyu ile paylaşılan ve seçimler gibi toplumsal davranışları etkileme potansiyeline sahip olan araştırmaların yetkili kurumların izin ve denetimlerine bağlı olarak gerçekleştirilmelerine yönelik düzenlemelerin bir an önce gerçekleştirilmesi gerektiğini düşünüyorum.

Ayrıca, bulgularını kamuoyu ile paylaşan araştırma şirketleri, başarısızlık durumunda bu öngörülerinin neden başarılı olamadığını şeffaf olarak açıklamakla yükümlü olmalıdır. Dezenformasyon amaçlı paylaşımlara yönelik cezai yaptırımlar söz konusu olmadığı sürece kamuoyunun bu şirketlere yönelik olumsuz algısının ortadan kaldırılması mümkün olmayacaktır.