Belgelerimizi yapay zekâ entegre bir buluta koyuyoruz — müşteri verileri için somut riskler neler?

Mert K***7 ay önce·32 mesaj·13,3 B görüntülenme#bulut güvenliği #yapay zekâ #müşteri verisi #veri sızıntısı

Görev: Veri giriş elemanı
Sektör: Deri
Yapı: 40 kişilik üretim firması
Katılım: Haz 2023
Mesaj: 18

7 ay önce#1

Fransa'da vergi ve yönetim danışmanlığı yapıyoruz. 8 kişilik ekibimizle her gün yüzlerce bilanço, sözleşme ve bordro inceliyoruz. İş süreçlerini hızlandırmak için içinde yerleşik yapay zekâ metin analitiği ve özetleme özellikleri bulunan kurumsal bir bulut depolama aboneliğine geçmeyi planlıyoruz. Böylece uzun sözleşmeleri saniyeler içinde tarayıp analiz edebileceğiz.

Ancak yönettiğimiz dosyalar doğrudan müşterilerimizin ticari sırları ve kimlik bilgileriyle dolu. Hizmet sağlayıcı kurumsal planda verilerin korunduğunu iddia ediyor ama Avrupa'daki katı gizlilik kuralları (RGPD) gereği kafamız çok karışık. Şirket dokümanlarını yapay zekâ özellikli bir buluta taşıdığımızda doğrudan karşılaşacağımız somut riskler nelerdir ve bu riskleri sıfırlamak ya da azaltmak için ne yapmalıyız?

İsmail V***Katılımcı

Görev: İcra kurulu üyesi
Sektör: Reklam ve tanıtım
Yapı: butik ajans
Katılım: May 2023
Mesaj: 2

7 ay önceEn çok yardımcı olan#2

Kısa cevap: Temel risk verilerinizin dışarı sızmasından ziyade, yapay zekâ modelinin genel eğitimi için kullanılması ve kurum içi yetkilendirme sınırlarının aşılmasıdır. Kurumsal sözleşmenizde verilerin model eğitimine dahil edilmediği taahhüt edilmeli ve çalışanların müşteri sırlarına kontrolsüz sorgu atması engellenmelidir.

Somut olarak üç ana riskle karşılaşırsınız: 1) Veri işleme riskinde, ücretsiz veya standart hesaplarda yüklenen metinler yapay zekâ motorunun genel öğrenme havuzuna katılabilir; kurumsal hesapta müşteri verisi ile model eğitilmez ilkesini sözleşmeyle yazılı teyit etmelisiniz. 2) Aşırı yetkilendirme riskinde, yapay zekâ asistanı şirketin tüm bulutuna erişiyorsa, stajyer bi çalışan sistem üzerinden gizli bordro dosyalarını taratıp özetletebilir. 3) RGPD kapsamında üçüncü taraf sunucu aktarımları söz konusudur; verilerin Avrupa Ekonomik Alanı içinde işlenip işlenmediği ve Veri İşleme Sözleşmesi (DPA) imzalanıp imzalanmadığı net olmalıdır.

Bu riskleri azaltmak icin öncelikle bulut panelinde yapay zekânın tarayacağı klasörleri departman bazında sınırlandırın. İkinci olarak hassas sözleşmeleri buluta yüklemeden önce isim ve tutarları maskeleyen bir çalışma kuralı benimseyin. Son olarak müşteri gizlilik sözleşmelerinizi güncelleyerek otomatik metin analizi araçlarının kullanıldığını şeffaf biçimde belirtin.

ElaKatılımcı

Görev: Psikolog
Katılım: Ağu 2024
Mesaj: 74

7 ay önce#3

Fransa'daki veri koruma otoritesinin yapay zekâ kullanımına dair yayınladığı tavsiye kararlarını incelemenizi öneririm. Müşteri belgelerinde üçüncü şahıslara ait kimlik veya banka bilgileri bulunuyorsa, bulut tedarikçinizle mutlaka Standart Sözleşme Maddeleri içeren bir Veri İşleme Sözleşmesi akdetmeli ve kayıt defterinize bu işleme faaliyetini eklemelisiniz.

EsraKatılımcı

Görev: Python geliştirici
Katılım: Ağu 2024
Mesaj: 134

7 ay önce#4

En tehlikeli nokta bilgi getirme mimarisindeki erişim haklarıdır. Klasik bulutta bir çalışan bordro klasörünü göremez. Fakat yapay zekâ genel indeksleme yapıyorsa ve dosya izinlerini doğru miras almadıysa, sohbet çubuğundan dolaylı olarak o belgedeki verileri çekip özetleyebilir. İzin kalıtımını mutlaka test edin.

Zehra E***UzmanTopluluk üyesi

Katılım: Ağu 2023
Mesaj: 220

7 ay önce#5

Tedarikçilerin 'biz verinizi eğitime katmıyoruz' taahhüdüne körü körüne güvenmeyin. Arka planda özet çıkarma işlemi icin veriyi üçüncü bi sunucu kümesine gönderip göndermediklerini teknik dökümandan inceleyin. Çoğu büyük sistem alt yüklenici olarak farklı şirketlerin dil modellerini çağırıyor.

ZaferKatılımcı

Görev: Sigorta acentesi
Katılım: May 2024
Mesaj: 88

7 ay önce#6

Biz danışmanlık tarafında şöyle bi ara çözüm bulduk: Müşteri verilerini doğrudan yüklemek yerine metin analizini yapacağımız taslakları önce anonimleştiriyoruz. Ahmet Yılmaz yerine 'Müşteri A' şirket unvanı yerine 'Firma X' yazıp öyle sorgulatıyoruz. bu arada ekstra iki dakika alıyor ama içimiz rahat.

Gürkan Y***KatılımcıTopluluk üyesi

Katılım: Haz 2023
Mesaj: 73

7 ay önce#7

bizim ekip ilk yapay zekâ aracını açtığında bi baktık asistan arkadaş tedarikçi sözleşmesini komple yapıştırıp 'bu sözleşmedeki açıkları bul' diyor. insan faktörü en zayıf halka. valla personele neyi yükleyip neyi yükleyemeyeceklerini madde madde anlatmadan bu düğmeyi açmayın.

Leyla K***Uzman

Görev: Mağaza görevlisi
Sektör: Enerji
Yapı: 20 kişilik firma
Katılım: Ara 2024
Mesaj: 29

7 ay önce#8

Uygulamaya geçmeden önce kontrol listesi: 1) Bulut ayarlarından model eğitim iznini tamamen kapatın. 2) Kimlik ve IBAN bilgilerini içeren klasörleri yapay zekâ tarama kapsamı dışına çıkarın. 3) Log kayıtlarını haftalık denetleyip hangi personelin ne tür belgeleri sorgulattığını kontrol edin.

Yasemin K***UzmanTopluluk üyesi

Katılım: Mar 2023
Mesaj: 201

7 ay önce#9

Geçen sene benzer bi heyecanla tüm arşivimizi yapay zekâ destekli bi sisteme entegre ettik. Hız açısından muazzam bi verim artışı sağladık yalan yok... Ancak kurumsal bi müşterimiz denetim istediğinde sözleşme maddelerimizi açıklamakta çok zorlandık. Eğer kurumsal sözleşme ve veri işleme sınırları net değilse müşteri kaybetme riski kazanacağınız zamandan çok daha ağır basabilir.