Qwen3 disorot setelah sistem AI tersebut disebut menyangkal adanya pembantaian demonstran di Lapangan Tiananmen pada 1989. Jonathan Hall memperingatkan penyaringan sejarah lewat AI dapat menggerus fondasi demokrasi Barat secara bertahap.
Hall adalah pengawas independen undang-undang terorisme dan ancaman negara Inggris yang akan mengakhiri masa jabatannya. Ia menilai persoalan ini melampaui kualitas jawaban chatbot karena menyangkut keamanan nasional dan hak publik memperoleh informasi sejarah yang utuh.
Temuan dalam Pengujian Tiananmen
Saat ditanya tentang peristiwa Tiananmen pada 1989, Qwen3 mula-mula menjawab bahwa tidak ada peristiwa penting yang terjadi. Namun, Hall melihat isi berbeda pada jendela proses berpikir atau thinking process milik model tersebut.
Dalam proses internalnya, AI itu sempat mengenali pengerahan PLA di alun-alun tersebut pada Juni 1989. Keterangan mengenai Tentara Pembebasan Rakyat itu kemudian tidak dimunculkan dalam jawaban akhir kepada pengguna.
Pertanyaan lanjutan menghasilkan respons yang menyerupai penarikan pernyataan. “Saya sekarang menarik kembali (pernyataan),” kata sistem itu, sebelum menyatakan tidak ada pengerahan militer berdasarkan catatan pemerintah Tiongkok.
Hall menilai kejadian itu menunjukkan daya sensor yang kuat terhadap arsip sejarah. “Tidak ada yang benar-benar mempersiapkan Anda menghadapi kekuatan kasar sensor terhadap catatan sejarah. Ini pencekikan kebebasan secara perlahan,” kata Hall.
Risiko Penyebaran Model yang Dapat Diunduh
Qwen3 termasuk model open-weight, sehingga dapat diunduh dan dijalankan tanpa sambungan internet. Kondisi ini dinilai membuat pengawasan serta pengendalian pemanfaatan model lebih sulit dibanding sejumlah AI Amerika Serikat seperti OpenAI.
Model itu juga tersedia secara gratis, yang berpotensi memperluas penggunaannya di sekolah dan universitas. Hall menilai penyebaran tersebut bisa lebih besar di negara-negara miskin dan membuat versi sejarah Beijing menjangkau miliaran orang.
Kekhawatiran tidak berhenti pada Tiananmen. Sistem tersebut juga disebut menolak membahas Taiwan, Muslim Uyghur, dan karakter Winnie the Pooh yang kerap dipakai untuk menyindir Presiden Xi Jinping.
Pembatasan pada beberapa topik sensitif itu memunculkan pertanyaan tentang arah informasi yang disampaikan AI. Hall memandang teknologi semacam ini dapat memengaruhi pemahaman publik atas fakta tanpa selalu terlihat sebagai ancaman langsung.
Penggunaan di Whitehall
Perhatian Hall turut berkaitan dengan penggunaan Qwen3 oleh Kementerian Kehakiman Inggris untuk menganalisis catatan kriminal. Penggunaan tersebut disebut sebagai pemakaian sistem AI Tiongkok pertama yang diketahui di lingkungan Whitehall.
Menurut Hall, kehadiran AI dalam pengolahan data pemerintahan memunculkan pertanyaan tentang kemungkinan masuknya propaganda dan risiko pengawasan. Ia menekankan bahwa persoalannya berada dalam konteks ancaman informasi jangka panjang, bukan sekadar kemampuan teknis sebuah perangkat lunak.
Selama tujuh tahun menjalankan jabatan pengawas independen, Hall menilai perkembangan AI dari Tiongkok berpotensi menjadi ancaman eksistensial bagi demokrasi, kebenaran, dan kebebasan berbicara. Dampaknya, menurut dia, mungkin tidak seketika tampak seperti plot pembunuhan, tetapi dapat tumbuh melalui perubahan cara masyarakat memahami sejarah.
Alibaba, pengembang Qwen3, menyatakan melalui juru bicaranya akan melakukan pengecekan internal atas temuan itu. Perusahaan teknologi tersebut disebut bernilai Rp5.000 triliun atau sekitar £250 miliar.
