midtoad – Peluncuran chatbot AI baru oleh Snapchat, yang diberi nama “My AI”, telah menimbulkan kekhawatiran besar di kalangan remaja dan orang tua. Chatbot ini, yang tersedia untuk pengguna berusia 13 tahun ke atas, memungkinkan remaja untuk mendapatkan rekomendasi dan bantuan dalam berbagai hal, namun juga menimbulkan berbagai risiko terkait privasi dan keamanan.
Salah satu kekhawatiran utama adalah terkait privasi dan keamanan data pengguna. Chatbot ini dapat mengumpulkan dan menyimpan data percakapan yang mungkin bersifat pribadi. Hal ini membuat orang tua khawatir bahwa informasi sensitif anak-anak mereka dapat disalahgunakan atau bocor. Selain itu, ada kekhawatiran bahwa chatbot ini dapat memberikan nasihat yang tidak tepat atau berbahaya, terutama dalam topik-topik sensitif seperti hubungan, kesehatan mental, dan masalah pribadi lainnya.
Para ahli juga menyoroti potensi dampak negatif chatbot ini terhadap kesehatan mental remaja. Karena chatbot server jepang tidak memiliki empati atau batasan seperti manusia, mereka mungkin memberikan nasihat yang tidak tepat atau bahkan berbahaya. Misalnya, ada laporan bahwa chatbot ini pernah memberikan saran yang tidak pantas kepada remaja yang mencari bantuan terkait masalah pribadi mereka78. Hal ini dapat menyebabkan kebingungan dan stres pada remaja yang mungkin menganggap chatbot sebagai teman atau penasihat yang dapat dipercaya.
Menanggapi kekhawatiran ini, Snapchat telah mengumumkan beberapa langkah untuk meningkatkan keamanan dan privasi pengguna. Salah satu langkah yang diambil adalah memberikan opsi kepada orang tua untuk memblokir anak-anak mereka dari berinteraksi dengan chatbot “My AI”. Selain itu, Snapchat juga berencana untuk memperkenalkan fitur kontrol orang tua yang lebih canggih untuk membantu orang tua memantau dan mengatur aktivitas anak-anak mereka di platform ini.
Meskipun chatbot AI “My AI” dari Snapchat menawarkan berbagai manfaat dan kemudahan, namun kekhawatiran terkait privasi, keamanan, dan dampak pada kesehatan mental tidak dapat diabaikan. Orang tua dan pengawas perlu tetap waspada dan memanfaatkan fitur kontrol orang tua yang disediakan untuk memastikan bahwa anak-anak mereka menggunakan teknologi ini dengan aman dan bertanggung jawab.