Yapay zeka iş gücünü tehdit ediyor!
Kritik altyapılarda yapay zeka tehlikesi konusunda uzmandan uyarı!
Yapay zeka iş gücünü tehdit ediyor!
Yapay zeka gelişiminin etik, sosyal ve ekonomik sonuçlarının dikkate alınmasının önemine dikkat çeken uzmanlar, otomasyon ve yapay zekanın makul kesimlerde işsizliğe neden olabileceğini söylüyor.
Yapay zeka sistemleri kritik altyapılara entegre oldukça siber saldırı ve kötü niyetli kullanım riskinin arttığını vurgulayan Dr. Dr. Burhan Pektaş: “Kişisel bilgilerinizi sosyal medya ve diğer online platformlarda paylaşırken dikkatli olun.” O uyardı.
Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi (MDBF) Dekan Yardımcısı, Bilgisayar Mühendisliği (İng) Bölüm Başkanı Prof. Dr. Burhan Pektaş, yapay zeka ve bilişim suçları konusunu değerlendirdi.
Yapay zekanın gelecekteki gelişimi belirsiz…
Yapay zekanın (AI) gelecekteki gelişiminin pek bilinmediğini belirten Prof. Dr. Burhan Pektaş, şunları kaydetti:
“Ancak bilim camiasının yapay zekanın geleceğini tartışırken dikkate aldığı çeşitli eğilimler ve potansiyel senaryolar var. Örneğin; Yapay zekanın zamanla daha karmaşık ve yetenekli hale gelmesi muhtemeldir. “Makine öğrenimi, sinir ağları ve diğer yapay zeka teknolojilerindeki ilerlemeler, karmaşık görevleri daha yüksek verimlilik ve doğrulukla gerçekleştirebilen sistemlere yol açabilir.”
Gizlilik sorunları ve olası kötüye kullanım konusunda endişeler var!
Yapay zeka teknolojileri ilerledikçe etik konular, gizlilik sorunları ve olası suiistimallere ilişkin endişelerin ve tartışmaların artacağına dikkat çeken Dr. Dr. Burhan Pektaş, “Yapay zeka sistemlerinin sorumlu bir şekilde geliştirilmesi ve konuşlandırılmasını sağlamak için bilim camiasının ve politika yapıcıların bu zorlukları ele alması gerekecek. Yapay zekanın sağlıktan eğitime, ulaşımdan eğlenceye kadar günlük yaşamın çeşitli yönlerine giderek daha fazla entegre olması bekleniyor. “Bu entegrasyon verimliliği ve rahatlığı artırabilir, ancak aynı zamanda sosyal etkiler ve işten çıkarmalarla ilgili soruları da gündeme getiriyor.” söz konusu.
Yapay zeka işsizliğe neden olabilir mi?
Prof., yapay zekanın birçok fayda sağlama potansiyeline sahip olmakla birlikte endişeleri ve olası riskleri de beraberinde getirdiğini açıklıyor. Dr. Burhan Pektaş şunları söyledi:
“Yapay zeka gelişiminin etik, sosyal ve ekonomik sonuçlarını dikkate almak önemlidir. Otomasyon ve yapay zeka kesinlikle belirli kesimlerde işlerin yerinden edilmesine yol açabilir ve potansiyel olarak ekonomik bozulmaya ve işsizliğe neden olabilir. Bu değerli bir endişe kaynağıdır ve işgücüne yeniden beceri kazandırma ve yeni iş fırsatları yaratma çabaları hayati önem taşıyacaktır.
Yapay zeka sistemleri, kendilerini eğitmek için kullanılan verilerde mevcut olan önyargıları devralabilir ve bu da adil olmayan veya ayrımcı sonuçlara yol açabilir. Düzgün bir şekilde ele alınmazsa, bu önyargı mevcut sosyal eşitsizlikleri güçlendirebilir ve işe alma, borç verme ve ceza adaleti gibi alanlarda adil olmayan muameleye yol açabilir.
Yapay zeka sistemleri kritik altyapılara entegre oldukça siber saldırı ve kötü niyetli kullanım riski de artıyor. “Bilgisayar korsanları, bilgileri manipüle etmek, hizmetleri kesintiye uğratmak ve hatta otonom araçlar veya endüstriyel sistemler söz konusu olduğunda fiziksel zarara neden olmak için yapay zeka sistemlerindeki güvenlik açıklarından yararlanabilir.”
Yapay zeka, siber güvenlik savunmalarını geliştirmek için güçlü bir araç olabilir
Yapay zeka (AI) teknolojilerinin siber güvenlik üzerinde ikili bir etkiye sahip olduğunu belirten Prof. Dr. Burhan Pektaş, “Yapay zeka, siber güvenlik savunmalarını geliştirmek, tehdit tespitini otomatikleştirmek ve olaylara müdahaleyi geliştirmek için güçlü bir araç olabilir. “Öte yandan siber suçlular, daha karmaşık ve hedefli saldırılar geliştirmek için yapay zekadan potansiyel olarak yararlanabilir.” söz konusu.
Prof. Dr. Burhan Pektaş, yapay zekanın siber güvenliğe ve siber hatalara olan etkilerinden bazılarını şöyle sıraladı:
“Hedefli saldırılar: Siber suçlular, son derece kişiselleştirilmiş ve ikna edici içeriğe sahip hedef odaklı kimlik avı kampanyaları gibi daha karmaşık ve hedefli saldırıları gerçekleştirmek için potansiyel olarak yapay zekayı kullanabilir.
Otomatik istismarlar: Yapay zeka, güvenlik açıklarını belirleme ve bunlardan yararlanma sürecini otomatikleştirerek saldırganların operasyonlarını ölçeklendirmesini kolaylaştırabilir.”
Yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanılabilir
Saldırganların, tespit mekanizmalarından kaçabilecek rakip girdiler sağlayarak, yapay zeka tabanlı tespit sistemlerini manipüle etme tekniklerini kullanabileceğini anlatan Prof. Dr. Taktiklerini tahmin etmek ve karşı koymak zor” dedi Burhan Pektaş. söz konusu.
Sahte içerik oluşturuluyor…
Prof. Dr. Burhan Pektaş, yapay zekanın oluşturduğu deepfake (sahte) içeriklerin, bireyleri veya kurumları aldatmak amacıyla gerçekçi ancak geçersiz ses veya görüntülü mesajlar oluşturularak sosyal mühendislik saldırıları için kullanılabileceğini kaydederek, “Yapay zekanın evrimi, Siber tehditlere yeni boyutlar getirerek saldırganlara yapay zekayı kötü amaçlarla kullanma potansiyeli kazandırıyor.” Sahip olduğundan emin oldu.” dedi.
Siber saldırılara yönelik kimlik avı e-postaları oluşturulabilir
Prof., saldırganların siber saldırılarını geliştirmek için yapay zekayı kötüye kullanabileceği çeşitli yolların bulunduğunu da belirtti. Burhan Pektaş, “Saldırganlar, hedefi yüksek ve ikna edici kimlik avı e-postaları oluşturmak için büyük veri kümelerini ve sosyal medya profillerini analiz etmek için yapay zekayı kullanabilirler” dedi. “Bu, bireylerin meşru ve kötü niyetli mesajlar arasında ayrım yapmasını zorlaştırıyor.” söz konusu.
Hedef kişinin kimliğine bürünerek ikna edici ses ve video kayıtları oluşturun
Prof. ayrıca yapay zekanın, klasik imza tabanlı antivirüs analizinden kaçacak şekilde kodunu ve görünümünü dinamik olarak değiştirebilen polimorfik, kötü amaçlı yazılımlar oluşturmak için kullanılabileceğini kaydetti. Dr. Burhan Pektaş, “Yapay zeka algoritmaları kötü amaçlı yazılım çeşitlerinin oluşturulmasını otomatik hale getirerek güvenlik sistemlerinin tehditlerin hacmine ve çeşitliliğine ayak uydurmasını zorlaştırabiliyor. Saldırganlar, meşru kişilerin kimliğine bürünerek ikna edici ses ve video kayıtları oluşturmak için yapay zeka tarafından oluşturulan deepfake teknolojisini kullanabilir. “Bu, sosyal mühendislik saldırıları veya yanlış bilgi yaymak için kullanılabilir.”
Yapay zeka destekli sohbet robotları kamuoyunu manipüle etmek için kullanılabilir
Prof. ayrıca yapay zeka destekli sohbet robotlarının veya sosyal botların, çevrimiçi etkileşimlerde insan davranışlarını taklit etmek, dezenformasyon yaymak, sosyal mühendislik saldırıları gerçekleştirmek veya kamuoyunu manipüle etmek için kullanılabileceğini açıkladı. Dr. Burhan Pektaş: “Saldırganlar, güvenlik amaçlı kullanılan yapay zeka modellerinin eğitim verilerini manipüle etmeye çalışabilir.” bilgilendirdi.
Kişisel verilerin güvenliği
Yapay zekanın kişisel veri güvenliği üzerinde önemli bir etkisinin olduğunu belirten Prof., etik ve gizlilik kaygılarının da ortaya çıktığını belirtti. Dr. Burhan Pektaş, “Yapay zeka sistemleri eğitim için genellikle kapsamlı veri setlerine dayanıyor. Bu veri kümeleri hassas kişisel bilgiler içerdiğinde etik kaygılar ortaya çıkar ve veri toplamanın kapsamı ve gerekliliği hakkında sorular ortaya çıkar. Etik uygulamalar, bireylerin kişisel verilerini toplamadan ve işlemeden önce bilgilendirilmiş onamlarının alınmasını içerir. “Verilerin nasıl kullanılacağını açıklamanın şeffaflığı çok önemli.” söz konusu.
Bireyler ve kurumlar BT hatalarından korunmak için neler yapabilir?
Siber suçlara karşı korumanın proaktif önlemler, güvenlik uygulamaları ve sürekli dikkatin bir kombinasyonunu içerdiğini kaydederek. Dr. Burhan Pektaş, siber güvenliğin artırılmasına yönelik hem bireylere hem de kurumlara yönelik önerilerini şöyle sıraladı:
Güçlü ve benzersiz şifreler kullanın: Karmaşık şifreler oluşturun ve aynı şifreyi birden fazla hesapta kullanmaktan kaçının. Güçlü, benzersiz şifreler oluşturmak ve saklamak için bir şifre yöneticisi kullanmayı düşünün.
Çok faktörlü kimlik doğrulamayı (MFA) etkinleştirin: Parolaların ötesinde ekstra bir güvenlik katmanı eklemek için mümkün olan her yerde MFA’yı uygulayın.
Yazılımı güncel tutun:Güvenlik açıklarını düzeltmek ve güvenliği artırmak için işletim sistemlerini, yazılımları ve uygulamaları sistematik olarak güncelleyin.
E-postalara karşı dikkatli olun: Şüpheli kişilere tıklamaktan veya bilinmeyen kaynaklardan ekleri indirmekten kaçının. E-postaların, özellikle de hassas bilgiler isteyen e-postaların meşruiyetini doğrulayın.
Güvenli Wi-Fi ağlarını kullanın: Ev Wi-Fi ağlarını güçlü parolalar ve şifrelemeyle koruyun. VPN kullanmadığınız sürece hassas işlemler için halka açık Wi-Fi kullanmaktan kaçının.
Güvenlik yazılımını yükleyin ve güncelleyin:Saygın bir antivirüs ve kötü amaçlı yazılımdan koruma yazılımı yükleyin ve güncel tutun.
Önemli verileri yedekleyin: Kritik bilgileri düzenli olarak harici bir cihaza veya güvenilir bir bulut hizmetine yedekleyin.
Haberdar olun:Saygın kaynaklar aracılığıyla mevcut siber tehditler ve optimum güvenlik uygulamaları konusunda güncel kalın.
Kişisel bilgi paylaşımını sınırlayın:Kişisel bilgilerinizi sosyal medyada ve diğer çevrimiçi platformlarda paylaşma konusunda dikkatli olun
Kaynak: (BYZHA) Beyaz Haber Ajansı
