Gizlilik ve yapay zekâ

Cihazda mı bulutta mı: bir görev uygulamasının yapay zekâsı nerede çalışır

Bir görev uygulamasının yapay zekâsı üç yerden birinde çalışır. iPhone’unuzda, Apple’ın cihazdaki modeliyle: hiçbir şey telefondan çıkmaz ve çevrimdışı çalışır, ama model küçüktür. Apple’ın Private Cloud Compute’unda: Apple, isteğinizi ne sakladığını ne de Apple’ın erişimine açtığını söyler. Ya da OpenAI gibi bir sağlayıcıyla, çoğu zaman uygulamanın kendi sunucusu üzerinden: hangi verinin saklanacağına ikisinin ilkeleri karar verir. Kısa, iyi tanımlı işler cihaza uyar; uzun sohbetler genellikle buluta ihtiyaç duyar.

Yakında iPhone ve iPad'de

Son kontrol:

Bu sayfada

Bir YZ isteğinin çalışabileceği üç yer

Nerede çalışır iPhone’unuzdan ne çıkar Çevrimdışı çalışır Uyduğu işler
Cihazda, Apple’ın modeliyle Hiçbir şey Evet Kısa, iyi tanımlı işler: sıralama, kısa öneriler, derli toplu ifadeler
Apple’ın Private Cloud Compute’unda İstek, Apple’ın sunucularına şifrelenmiş olarak Hayır Daha büyük Apple Intelligence istekleri
OpenAI gibi bir sağlayıcıda, çoğu zaman uygulamanın sunucusu üzerinden İstek ve uygulamanın eklediği her bağlam Hayır Uzun sohbetler, geniş bilgi, çok adımlı işler

Bu sayfanın geri kalanı her birini ve neleri kontrol edebileceğinizi gözden geçirir.

iPhone’unuzda

iOS 26’dan beri uygulamalar, Apple Intelligence’ın çekirdeğindeki cihaz içi dil modeline istek göndermek için Apple’ın Foundation Models çerçevesini kullanabilir. Apple onu 3 milyar parametreli bir model olarak tanımlar ve onun üzerine kurulu özelliklerin gizliliği koruduğunu, çevrimdışı çalıştığını ve istek başına hiçbir şeye mal olmadığını söyler.

Bu, bir YZ özelliğinin sahip olabileceği en güçlü gizlilik konumudur: metin telefondan hiç çıkmaz, bu yüzden okunacak bir sunucu ilkesi yoktur. İki sınırı var:

  1. Boyut. Bir telefona sığan model, bir cümleyi birkaç adıma çevirmek ya da öğeleri gruplara ayırmak gibi net bir biçimi olan dar görevlerde iyidir. Uzun, açık uçlu sohbetlerde ve geniş dünya bilgisi isteyen sorularda daha zayıftır.
  2. Donanım. Çerçeve Apple Intelligence’ın çekirdeğindeki modeli kullandığı için, Apple Intelligence’ı destekleyen bir cihaza bağlıdır. Apple’ın iOS 27 listesi iPhone 15 Pro ve 15 Pro Max’i, iPhone 16 modellerini ve sonrasını ve iPhone Air’i içerir; cihaz ve Siri dili aynı desteklenen dile ayarlı olmalı ve modeller için birkaç gigabayt boş alan gerekir (Apple, birçok modelde 8 GB’a, en yenilerinde 14 GB’a kadar der).

Dolayısıyla cihazdaki modeli kullanan bir uygulamanın daha eski bir telefonda ne olacağına karar vermesi gerekir: özellik eksiktir ya da buluta döner. Bunu sormaya değer.

Apple’ın Private Cloud Compute’u

Bir Apple Intelligence görevi telefonun yapabileceğinden fazlasını gerektirdiğinde, Apple isteğin Private Cloud Compute’a (PCC) gidebileceğini söyler. Apple’ın gizlilik sayfası, verinin “saklanmadığını ya da Apple’ın erişimine açılmadığını”, yalnızca isteğinizi yerine getirmek için işlendiğini ve sonuç geri geldikten sonra tutulmadığını söyler.

Apple’ın güvenlik ekibi tasarımı Haziran 2024’te beş gereksinim olarak yayımladı:

  • Durumsuz hesaplama. Kişisel veri yalnızca istek için kullanılır ve günlükler dahil saklanmaz.
  • Uygulanabilir güvenceler. Vaatler yalnızca ilkeyle değil, sistemin tasarımıyla uygulanmak zorundadır.
  • Ayrıcalıklı çalışma zamanı erişimi yok. Bir kesinti sırasında Apple’ın site güvenilirliği ekibinin bile bir arka kapısı yoktur.
  • Hedeflenemezlik. Bir saldırgan, bütün sisteme saldırmadan tek bir kişinin verisini hedef alamamalıdır.
  • Doğrulanabilir şeffaflık. Apple, güvenlik araştırmacıları kontrol edebilsin diye yazılım imajlarını yayımlar ve cihazlar yalnızca herkese açık listelenmiş yazılım çalıştırdığını kanıtlayan sunuculara istek gönderir.

Dürüst sınırlar var. EFF, bir isteğin cihazda mı yoksa PCC’de mi çalıştığını ekranda hiçbir şeyin söylemediğine ve burada “gizli”nin Apple’ın veriyi görmemesi ya da saklamaması için tasarlandığı anlamına geldiğine, verinin telefonunuzda kaldığı anlamına gelmediğine dikkat çeker. Apple ayrıca sunucu tarafı modellere dayanan bazı özelliklerin günlük kullanım sınırları olduğunu söyler. Nelerin dışarı çıktığını görmek isterseniz Apple, Ayarlar, Gizlilik ve Güvenlik altında bir Apple Intelligence & PCC Report (İngilizce adıyla) anlatır.

PCC, Apple’ın kendi özellikleri içindir. Kendi sağlayıcısını kullanan üçüncü taraf bir uygulama bu vaatlerle kapsanmaz.

Üçüncü taraf bir sağlayıcı

Birçok görev ve not uygulaması asistan isteklerini OpenAI gibi bir şirkete, ya doğrudan ya da geliştiricinin çalıştırdığı bir sunucu üzerinden gönderir. Burada iki kural takımı geçerlidir: geliştiricinin, kendi sunucusu için, ve sağlayıcının. OpenAI, API’sine gönderilen verinin, müşteri izin vermedikçe 1 Mart 2023’ten beri modellerini eğitmek için kullanılmadığını ve istemleri ile yanıtları içerebilen kötüye kullanım izleme günlüklerinin varsayılan olarak 30 güne kadar tutulduğunu, onaylı müşteriler için bir Sıfır Veri Saklama seçeneği bulunduğunu söyler.

Uygulamanın burada özgül olması gerekir. Sorun:

  1. Hangi sağlayıcı, adıyla?
  2. İstek geliştiricinin sunucusundan geçiyor mu ve o sunucu bir şey saklıyor mu?
  3. İstek neyi içeriyor: yalnızca mesajınızı mı, yoksa listenizdeki öğeleri de mi? Bir YZ asistanının görev listenizde ne gördüğü rehberimiz bunun neden değiştiğini açıklar.
  4. İlk istekten önce soruyor mu ve bazı öğeleri dışarıda tutabiliyor musunuz? Bkz. notları ve görevleri yapay zekâdan uzak tutmak.

Hangisini seçmeli

Çoğu insan için makul kural şudur: küçük, sık işlerin cihazda çalışmasına izin verin ve buluta bilerek, ona ihtiyaç duyan şeyler için başvurun. Listenizi sıralayan ya da birkaç adım öneren bir özellik genellikle telefonda kalabilir. Bütün haftanız hakkında bir sohbet genellikle kalamaz; nereye gittiğini biliyorsanız ve gizli kalması gerekeni dışarıda tuttuysanız bu sorun değildir.

Dozen’in yardımcı olduğu ve olmadığı yerler

Dozen yapay zekâsını bu sayfanın anlattığı gibi böler. Adım öner, iPhone’unuzun kendi modelini kullanır; OpenAI’a yalnızca Dozen Pro ile, izninizden sonra ve cihaz adımları kendisi oluşturamadığında sorar. Hızlı Bul’daki Sor, bir soruyla eşleşen notları ve görevleri listeler ve iPhone’unuz yapabildiğinde üstlerine kısa bir yanıt yazar. Asistan isteğe bağlıdır ve önce sorar: siz izin verene kadar bir yapay zekâ sağlayıcısına hiçbir şey gönderilmez. Bulut istekleri Loopware’in kendi sunucusu üzerinden OpenAI’a gider; bu sunucu her isteği, yazdıklarınızı kaydetmeden ya da saklamadan iletir. No AI ile etiketlediğiniz her şey asistanın isteklerinin dışında tutulur. Arama ve Sor ile asistan hakkında daha fazlası var.

Yardımcı olmadığı yerler: Dozen’de asistanın buluttan gelen yanıtları dışında her şey çevrimdışı çalışır. Yani asistanın bulut yanıtları bir bağlantı gerektirir ve cihazda çalışmaz. Asistan, Dozen Pro’nun bir parçasıdır. iPhone’un kendi modelini kullanan özellikler, Apple Intelligence’ı destekleyen bir telefona bağlıdır. Ve Dozen henüz App Store’da değil.

Sorular ve cevaplar

Apple Intelligence iPhone’umda mı işlenir?

Çoğu zaman, ama her zaman değil. Apple, birçok Apple Intelligence modelinin tamamen cihazda çalıştığını ve daha büyük bir model gerektiren isteklerin Private Cloud Compute’a gidebileceğini söyler. EFF, belirli bir isteği hangisinin işlediğine dair ekranda hiçbir işaret olmadığını belirtir; Apple’ın "Apple Intelligence & PCC Report" ayarı (İngilizce adıyla) Private Cloud Compute’a gönderilenleri listeler.

Hangi iPhone’lar Apple’ın cihazdaki modelini çalıştırabilir?

Apple, iOS 27'deki Apple Intelligence için diğerlerinin yanı sıra iPhone 15 Pro ve iPhone 15 Pro Max’i, iPhone 16 modellerini ve sonrasını ve iPhone Air’i listeler. Cihaz ve Siri dili desteklenen bir dille uyuşmalı ve modeller birkaç gigabayt depolama alanı gerektirir.

Bulut YZ her zaman cihazdaki YZ’den daha mı az gizlidir?

Her zaman değil, ama cihazda olan daha basit bir sözdür: hiçbir şey telefondan çıkmaz. Bir bulut isteği, Apple’ın Private Cloud Compute için anlattığı gibi iyi korunabilir ya da OpenAI’ın API’si için anlattığı gibi bir sağlayıcı tarafından kısa süre tutulabilir. Bulutta, kendiniz denetleyemeyeceğiniz ilkelere ve mühendisliğe güvenirsiniz.

Kaynaklar

Bu sayfanın Dozen hakkında söyledikleri tarihinde uygulamada kontrol edildi.

Son kontrol:

Dozen'i edinin

Dozen'i indirmek ücretsizdir. Aylık ya da yıllık bir abonelik olan Dozen Pro, asistanı ekler.

Yakında iPhone ve iPad'de

Dozen: Görevler ve Notlar

Dozen'i indirmek ücretsizdir. Aylık ya da yıllık bir abonelik olan Dozen Pro, asistanı ekler.

Yakında iPhone ve iPad'de