AI işe alım aracında demo yetmez: Pilot, sapma testi ve itiraz yolu isteyin

AI destekli CV tarama veya aday puanlama aracı satın alırken önce aracın hangi kararı etkileyeceğini belirleyin. Tedarikçiden veri akışı ve saklama planını, performans ve sapma testlerini, adayın itirazı halinde izlenecek yolu isteyin. Geniş ölçekli kullanımı kendi işe alım koşullarınızda yapılacak pilotun sonucuna bağlayın.

Demo, aracın sizin ilanlarınızda kimi yanlış eleyeceğini göstermez. İK ekibi kabul ölçütlerini önceden yazmalı; hukuk ve uyum ekipleri veri işleme ile aday haklarını, satın alma ekibi de test, düzeltme ve durdurma koşullarının sözleşmeye nasıl gireceğini incelemelidir.

Aracın görevini tanımlayın, tedarikçiden kanıt isteyin

İş tanımındaki zorunlu koşulları ayıklamak, özgeçmişleri özetlemek ve adayları mülakata çağrılma olasılığına göre sıralamak farklı işlerdir. Her biri için hangi çıktının kullanılacağını ve hangi hatanın kabul edilemeyeceğini ayrı yazın. Bir puanın otomatik ret kararı mı üreteceğini, yoksa işe alım uzmanına öneri mi sunacağını tedarikçiye açıkça sorun.

Birleşik Krallık veri koruma kurumu ICO’nun işe alım araçlarına ilişkin denetim bulguları, bazı araçların korunan özelliklere göre aday elemesine izin verdiğini, gereğinden fazla veri topladığını ve adaylara yeterli açıklama sunmadığını gösteriyor. Bunlar Türkiye’de satılan her ürün için bulgu değildir; satın alınacak sürümün ve planlanan kullanımın ayrıca incelenmesi için somut gerekçelerdir.

• Hangi girdiler hangi çıktıyı üretiyor; puanları ve eleme eşiklerini kim değiştirebiliyor?
• Performans raporu hangi aday verisi, iş türü, dil ve ürün sürümüyle hazırlandı?
• Bilinen sınırlamalar, önceki sapma bulguları ve düzeltme kayıtları paylaşılabiliyor mu?
• İşveren ile tedarikçinin veri işleme, sürüm değişikliği ve hata bildirimindeki sorumlulukları sözleşmede nasıl ayrılıyor?

Genel bir “adil AI” beyanı yerine bu soruların yanıtlandığı belgeleri isteyin. Rapor yalnızca başka bir ülkedeki veya farklı bir görevdeki sonuçları gösteriyorsa, onu kendi aday havuzunuz için kabul kanıtı saymayın.

Veri akışını ve saklama süresini sınırlandırın

Tedarikçiden CV’nin yüklenmesinden silinmesine kadar veri akışını göstermesini isteyin: Hangi alanlar okunuyor, hangi çıkarımlar üretiliyor, kim erişiyor, alt hizmet sağlayıcı kullanılıyor mu ve veri nerede tutuluyor? Her alanın belirlediğiniz işe alım göreviyle ilişkisini sorun. Fotoğraf, doğum tarihi veya adres değerlendirme için gerekmiyorsa bunların sisteme alınmaması ya da puanlama dışında bırakılması seçeneğini sınayın.

“Verileriniz güvende” yanıtı saklama sınırı değildir. Başvuru dosyası, türetilmiş puan, işlem kaydı ve yedek için süreleri; süre dolduğunda silme yöntemini; tedarik ilişkisi bittiğinde verinin nasıl iade veya imha edileceğini yazılı hale getirin. Aday verisinin ürün geliştirme ya da başka müşterilere hizmet eden modellerin eğitimi için kullanılıp kullanılmadığını ayrıca sorun; öngörülen her farklı amacı hukuk ekibi değerlendirmelidir.

Pilotta önce sentetik kayıtların veya kişisel tanımlayıcıları ayıklanmış örneklerin yeterli olup olmadığını belirleyin. Gerçek aday kayıtları gerekiyorsa erişimi, kullanılacak alanları ve deneme sonunda imhayı pilot protokolüne bağlayın. Tedarikçi hangi kayıtların yedeklerde kaldığını ve silmenin nasıl doğrulanacağını açıklayamıyorsa veri akışı henüz kabul edilebilir açıklıkta değildir.

Kendi aday havuzunuzda pilot yapın

Tedarikçinin gösterdiği başarı oranı, sizin ilan diliniz ve aday havuzunuz için sonuç garantisi değildir. Birleşik Krallık hükümetinin sorumlu AI işe alım rehberi, geniş ölçekli kullanımdan önce kurumun kendi ortamında performans testi yapılmasını, kullanıma geçildikten sonra da düzenli izleme kurulmasını öneriyor. Tedarikçiden pilotu önceden belirlediğiniz ölçütlerle kurmasını ve sonuçları inceleyebileceğiniz ayrıntıda sunmasını isteyin.

Örneklem, kullanmayı planladığınız farklı ilan türlerini, deneyim düzeylerini ve CV biçimlerini kapsamalıdır. Pilot başlamadan insan değerlendiriciler aynı başvurular için iş gereklerine dayalı bir referans değerlendirme hazırlasın. Sonra aracın çıktılarıyla bu değerlendirmeyi karşılaştırın: Uygun adaylar eleniyor mu, uygun olmayanlar yüksek puan alıyor mu, belirli CV biçimlerinde bilgi kayboluyor mu?

Genel doğruluk tek başına yeterli değildir. Mülakata çağrılması gereken adayın elenmesi ile uygun olmayan adayın yüksek puan alması farklı sonuçlar doğurur; bu hataları ayrı kaydedin. İnsan değerlendirmesini de tartışmasız doğru kabul etmeyin: uyuşmazlıklarda iş tanımına dönün ve gerekçeyi ikinci bir incelemeyle kayda geçirin.

Gruplar arasındaki hataları ve erişim engellerini arayın

Ortalama performans iyi görünürken bazı aday gruplarında yanlış eleme yoğunlaşabilir. Karşılaştırma için gerekli verilerin işlenmesini hukuk ekibi değerlendirdikten sonra pilot sonuçlarını ilgili gruplar ve başvuru biçimleri bakımından ayırın. Her gruptaki örneklem küçükse görülen farkı kesin bir oran gibi sunmayın; belirsizliği kaydedip ek test veya insan incelemesi planlayın.

Doğrudan korunan bir özellik puanlamaya alınmasa da okul adı, mezuniyet yılı veya iş geçmişindeki boşluklar sonuca etki edebilir. Bu alanlar için tedarikçiden puanın nasıl değiştiğini ve değişimin iş gerekleriyle ilişkisini gösteren test isteyin. Farklı biçimde hazırlanmış bir CV’nin yanlış okunması veya bir adayın başvuru sürecine erişememesi de pilotta incelenmelidir; ihtiyaç halinde alternatif başvuru ve değerlendirme yolu hazır olmalıdır.

Kabul eşiğini sonuçları gördükten sonra seçmeyin. Yanlış eleme için izin verilecek üst sınırı ve gruplar arasında araştırma gerektirecek farkı işe göre önceden gerekçelendirin. Eşik aşılırsa nedeni bulunup düzeltme yeniden sınanana kadar ilgili kullanım biçimini devreye almayın; etkilenen başvuruları insan incelemesine yönlendirin.

Adayın itirazını işleyen bir yola bağlayın

Aday, değerlendirmede otomatik aracın kullanıldığını ve olumsuz bir sonuca ilişkin nereye başvurabileceğini anlayabilmelidir. Türkiye’de Kişisel Verileri Koruma Kurumu’nun ilgili kişi hakları açıklaması, verilerin münhasıran otomatik sistemlerle analiz edilmesi sonucu kişinin aleyhine doğan sonuca itiraz hakkını sayıyor. Bu hükmün kapsamı her AI destekli değerlendirme için aynı kabul edilmemelidir; insan incelemesi ve erişilebilir geri bildirim kanalı ise satın alma şartı olarak belirlenebilir.

Tedarikçiden yalnızca bir iletişim adresi göstermesini değil, itiraz edilen başvurunun ve kullanılan araç çıktısının nasıl bulunacağını açıklamasını isteyin. İşveren tarafında başvuruyu alacak kişi, karar kaydına erişim yetkisi ve yeniden değerlendirmeyi yapacak görevli belirli olmalıdır. İnceleyen kişi puanı tekrar onaylamakla yetinmemeli; adayın sunduğu düzeltmeyi ve iş gereklerini değerlendirebilmelidir.

Devreye alma kararında kullanım amacını, izin verilen veri alanlarını, pilot ile grup testlerinin sonuçlarını, açık kalan hataları, saklama sınırını ve itirazdan sorumlu kişileri kayda geçirin. Tedarikçi kritik girdileri veya hata kayıtlarını açıklayamıyorsa, yanlış eleme kabul sınırını aşıyorsa ya da insan incelemesine ulaşan yol işlemiyorsa kullanımı erteleyin. Onaydan sonra aynı ölçütleri yeni sürümlerde ve aday havuzu değiştiğinde yeniden sınayın.

Ayrıca okuyun:

• AI portföyünde araç listesi yetmez: problemi, ölçümü ve sınırı gösterin
• AI ajanında model testi yetmez: Üç çalışma anı kapısı gerekiyor
• ABD’de işe alım 29 bine düştü; AI becerisine ücret yarışı sürüyor