Laporan Penyalahgunaan AI oleh Anthropic

Laporan Penyalahgunaan AI oleh Anthropic. Report ini meliputi aktiviti yang mereka kesan dan ganggu antara Disember 2025 hingga Ogos 2026, dalam 7 kategori utama.

http://anthropic.com/threat-intelligence-report-september-2026?utm_campaign=rundown-0921&utm_medium=referral&utm_source=therundownai.beehiiv.com

1. 🧠 Idea paling penting dalam report

• Dulu AI banyak digunakan sebagai "assistant" — manusia tanya, AI jawab.

• Sekarang, menurut kes-kes yang Anthropic laporkan, AI mula digunakan sebagai "operator/orchestrator":

  • cari sasaran

  • kumpul maklumat

  • bina tools

  • analisis data

  • menjalankan tugas berulang

  • memproses hasil

  • membantu serangan seterusnya.

• Manusia masih terlibat, tetapi dalam beberapa kes manusia hanya menentukan sasaran dan matlamat, manakala AI melakukan banyak kerja di tengah-tengah proses.

Ringkasnya:

AI bukan sekadar membantu hacker — AI boleh menjadi "pekerja digital" yang menjalankan sebahagian besar workflow serangan.

---

2. 🔴 Cyber attack — bahagian paling besar

Anthropic mendapati AI boleh mempercepatkan hampir seluruh cyber kill chain.

Contohnya:

1. 🔎 Reconnaissance

   • cari organisasi

   • cari domain

   • cari sistem yang terdedah

   • fingerprint teknologi.

2. 🎣 Phishing

   • bina website palsu

   • bina email phishing

   • cari target yang sesuai.

3. 🔑 Credential theft

   • cari API keys

   • token

   • password

   • session.

4. 💻 Exploitation

   • analisis vulnerability

   • bina tools

   • cuba exploit.

5. 🏃 Lateral movement

   • masuk sistem lain menggunakan credential yang diperoleh.

6. 📦 Data theft

   • cari database

   • dump mailbox

   • kumpulkan data.

7. 💰 Monetization

   • jual data

   • ransom/extortion

   • jual access.

Report menunjukkan beberapa operasi menggunakan AI agents secara berterusan, termasuk workflow yang boleh menyambung kerja daripada satu sesi ke sesi berikutnya.

---

3. ⚠️ Perkara yang sangat penting untuk cybersecurity

Satu perubahan besar ialah:

Dulu

Hacker → Tool → Target

Sekarang

Hacker → AI Agent → banyak tools → Target

AI boleh menjadi "middle layer" yang:

Plan → Execute → Check result → Modify → Try again

Dalam satu kes, apabila malware mereka dikesan oleh security software, AI digunakan untuk membantu mengubah dan rebuild malware, kemudian mencuba semula sehingga detection berjaya dielakkan.

Ini bermaksud:

Static detection sahaja semakin kurang mencukupi.

---

4. 🔥 Sophisticated attack tidak semestinya datang daripada sophisticated hacker

Ini antara kesimpulan paling menarik dalam report.

AI mengurangkan jurang antara:

• hacker berpengalaman

• organisasi besar

• state-sponsored attacker

• individu biasa.

Sebab AI boleh membantu dengan:

• coding

• networking

• reverse engineering

• reconnaissance

• data analysis

• exploit research.

Anthropic menyatakan bahawa dalam kes-kes yang mereka kaji, operasi yang sebelum ini memerlukan ramai pakar boleh dijalankan oleh kumpulan yang jauh lebih kecil.

---

5. 🔑 API Key sekarang adalah "asset" yang sangat berharga

Ini sangat relevan kepada environment cloud.

Attacker bukan hanya mahu:

• password

• Azure credentials

• AWS credentials.

Mereka juga mahu:

• AI API keys

• AI session tokens

• AI service credentials.

Sebab satu API key yang dicuri memberikan 3 perkara:

1. Loot

Credential itu sendiri boleh dijual.

2. Compute

Attacker boleh menggunakan AI atas kos mangsa.

3. Cover

Aktiviti mereka kelihatan seolah-olah datang daripada account mangsa.

Maksudnya:

AI API key perlu dianggap sama serius seperti production credential.

---

6. ☁️ AI supply chain pula menjadi target

Ini sangat menarik.

Attacker bukan hanya menyerang aplikasi biasa.

Mereka mula menyerang:

• AI API

• AI proxy

• LiteLLM

• AI gateway

• AI agents

• model routers

• AI reseller

• development environment.

Dalam satu contoh, attacker menggunakan prompt injection terhadap LiteLLM deployment untuk cuba mendapatkan production API keys.

Jadi architecture seperti:

Application
     ↓
LiteLLM
     ↓
Claude / GPT / Gemini

sekarang perlu dilihat sebagai security boundary.

---

7. 🤖 AI Agent boleh bekerja secara "swarm"

Ini lagi satu perubahan besar.

Satu AI agent boleh menjadi "leader".

Kemudian:

                Lead Agent
                    │
       ┌────────────┼────────────┐
       ↓            ↓            ↓
 Recon Agent   Exploit Agent   Data Agent
       ↓            ↓            ↓
   Discovery    Testing       Collection

Dalam satu kes yang dilaporkan, agent swarm menjalankan beberapa workstream secara parallel dan menyimpan:

• target list

• credentials

• status operasi

• instructions

• campaign memory.

Jadi operasi boleh disambung semula kemudian tanpa bermula dari kosong.

---

8. 🕵️ Surveillance

AI juga digunakan untuk surveillance.

Contohnya:

• analisis social media

• cari lokasi seseorang

• klasifikasikan individu

• bina profile

• cari hubungan antara individu

• menghasilkan intelligence report.

Dalam satu kes, AI digunakan untuk menganalisis sejumlah besar social-media data dan menghasilkan structured profiles termasuk:

• lokasi

• demographic

• political leaning

• confidence score.

Ada juga kes di mana AI digunakan untuk membantu menghasilkan dossier mengenai individu dan komuniti tertentu.

---

9. 📱 Fake social-media accounts

AI boleh menghasilkan banyak persona palsu.

Contohnya:

1 manusia
   ↓
AI
   ├── Persona A
   ├── Persona B
   ├── Persona C
   ├── Persona D
   ├── Persona E
   └── ...

AI boleh membantu:

• nama

• profile

• gambar

• bahasa

• posting

• komen

• reply.

Ini menjadikan operasi influence lebih mudah diskalakan.

---

10. 📰 Influence operation / fake news

Anthropic melaporkan beberapa operasi yang menggunakan AI untuk:

• bina fake news websites

• tulis artikel

• rewrite artikel sebenar

• buat fake journalist

• buat fake social-media accounts

• amplify kandungan.

Dalam satu operasi, kira-kira 8,913 artikel dalam sekitar 20 bahasa diterbitkan melalui rangkaian laman yang kelihatan seperti media berasingan.

AI digunakan untuk menghasilkan kandungan secara automatik dan konsisten.

---

11. 🇲🇾 Ada juga kes yang berkaitan Malaysia

Ini bahagian yang mungkin paling menarik kepada anda.

Report mengandungi satu kes yang melibatkan operasi yang menurut Anthropic menyasarkan Malaysia.

Dalam kes tersebut, Claude digunakan untuk:

• constituency/voter profiling

• menggunakan data census dan voter

• membina fake social-media accounts

• menghasilkan fake news

• membuat fabricated dossiers

• operational security.

Report menyebut kira-kira 1,000 fake accounts dalam operasi tersebut.

Penting: Ini adalah laporan/penilaian Anthropic mengenai operasi yang mereka kesan. Ia bukan bermaksud semua kandungan politik di Malaysia adalah AI-generated atau palsu.

---

12. 👁️ AI + surveillance boleh menggantikan ramai analyst

Ini salah satu trend yang Anthropic tekankan.

Contohnya:

seorang operator boleh menggunakan AI untuk melakukan kerja yang sebelum ini memerlukan satu pasukan analyst.

AI boleh:

1. collect data

2. clean data

3. correlate data

4. profile target

5. translate

6. generate report.

Dalam satu kes, operator menggunakan Claude sebagai sejenis analyst layer untuk menukarkan data yang dikumpulkan daripada banyak sumber kepada dossier berstruktur.

---

13. 🛡️ Conventional weapons

Report juga membincangkan penyalahgunaan AI untuk:

• firearms

• missiles

• armed drones

• bombs

• munitions

• targeting systems

• electronic warfare.

Anthropic melaporkan enam kes berkaitan penggunaan Claude untuk weapons development, intelligence gathering atau procurement.

Sebahagian kes melibatkan pembangunan software untuk:

• guided rocket

• drone swarm

• electronic warfare

• air-defense suppression.

---

14. 🧬 Biological misuse

Ini bahagian yang sangat sensitif.

Anthropic menyatakan bahawa model AI terbaru semakin mampu membantu dalam tugas scientific research yang kompleks.

Masalahnya:

Biological research = boleh jadi baik atau berbahaya.

Contoh:

Research
   ↓
AI assistance
   ↓
Disease research
       OR
Potential harmful biological capability

Anthropic melaporkan lima case studies berkaitan kemungkinan biological misuse.

Antaranya melibatkan penyelidikan yang berkaitan dengan:

• virus

• pathogen adaptation

• immune evasion

• toxin research.

Anthropic sengaja tidak mendedahkan beberapa nama institusi, negara dan technical details untuk mengurangkan risiko penyalahgunaan.

---

15. 🤥 AI scam — bukan sekadar chatbot

Satu kes yang sangat menarik:

Fake dating apps

Satu operator membina lebih daripada 20 dating apps.

AI digunakan untuk menghasilkan persona dating palsu.

Dalam tempoh kira-kira dua minggu:

• 4,700 AI personas

• berinteraksi dengan ≥25,000 individu

• sekitar 2.36 juta messages.

Lebih menarik:

AI : manusia ≈ 3 : 1

Manusia sebenar hanya digunakan untuk perkara yang AI sukar lakukan seperti:

• live video call

• social-media follow

• authenticity checks.

Maksud mudah:

AI digunakan untuk mengautomatikkan "scammer workforce".

---

16. 🪪 KYC pun boleh disalahgunakan

Report menunjukkan satu teknik di mana mangsa dibawa ke laman verification palsu.

Tetapi di belakangnya:

Mangsa
  ↓
Fake verification site
  ↓
Real KYC system
  ↓
Attacker intercept session

Mangsa sebenarnya menjalani KYC sebenar.

Tetapi attacker mengambil:

• verified session

• identity documents

• authentication information.

---

17. 🧪 Illicit distillation

Ini mungkin paling penting untuk memahami industri AI.

Distillation sendiri bukan semestinya jahat.

Konsep biasa:

Big/Teacher Model
       ↓
Generate answers
       ↓
Smaller/Student Model
       ↓
Learn from answers

Tetapi illicit distillation ialah apabila seseorang secara rahsia mengambil kemampuan model frontier untuk membina model lain tanpa authorization.

Anthropic menyatakan mereka mengesan serangan sebegini terhadap Claude daripada beberapa lab.

---

18. Bagaimana distillation dilakukan?

Antara teknik yang dilaporkan:

• fake accounts

• stolen credit cards

• stolen API keys

• proxy networks

• reseller networks

• routing requests melalui pihak ketiga

• menyimpan conversation transcripts.

Kemudian:

Claude
  ↓
Millions of prompts
  ↓
Millions of responses
  ↓
Training dataset
  ↓
Other AI model

---

19. Skala boleh jadi sangat besar

Contohnya, report menyatakan satu campaign yang dikaitkan dengan Alibaba mencapai:

>151 juta exchanges

antara Mei–Julai 2026.

Dalam satu tempoh, trafik mencapai hampir:

3 juta exchanges sehari

daripada ribuan fraudulent accounts.

Jadi distillation bukan lagi sekadar:

"ambil beberapa contoh jawapan AI."

Ia boleh menjadi industrial-scale data extraction.

---

20. 🚨 Risiko terbesar kepada pengguna biasa

Daripada keseluruhan report, perkara yang paling praktikal untuk difahami ialah:

Jangan anggap AI API key sebagai benda kecil.

Jika seseorang dapat:

.env
config.yaml
Docker image
GitHub repository
CI/CD variable
application logs
developer laptop

dan menjumpai:

ANTHROPIC_API_KEY=...
OPENAI_API_KEY=...
AZURE_OPENAI_KEY=...

credential itu boleh mempunyai nilai sebenar kepada attacker.

Report secara jelas menyatakan organisasi perlu melayan AI keys dan agent integrations seperti production credentials.

---

21. 🔐 Apa yang berubah dalam security?

Security architecture perlu bergerak daripada:

❌ "Protect the application"

kepada:

✅ "Protect the entire AI ecosystem"

Contohnya:

User
 ↓
Application
 ↓
AI Gateway / LiteLLM
 ↓
AI Model
 ↓
Tools
 ↓
Database
 ↓
Cloud

Semua layer ini boleh menjadi attack surface.

---

22. 10 perkara paling penting

Kalau saya ringkaskan report ini untuk seorang, saya akan jadikan checklist:

1. 🔑 AI API keys → secrets management

2. 🔄 Rotate leaked keys immediately

3. 🔍 Monitor unusual AI API usage

4. 💰 Monitor unexpected token/cost spikes

5. 🌍 Monitor geographic anomalies

6. 🤖 Audit AI agents dan tools

7. 🧱 Treat LiteLLM/AI gateway as security boundary

8. 📦 Scan Docker/container/source code untuk API keys

9. 🧠 Defend against prompt injection

10. 📊 Log AI activity untuk detection & investigation

---

23. Kesimpulan paling mudah

Kalau nak faham report 154 halaman ini dalam 5 ayat sahaja:

1. AI semakin berubah daripada chatbot kepada agent yang boleh menjalankan workflow kompleks.

2. Attackers menggunakan AI untuk mempercepat reconnaissance, exploitation, credential theft dan data theft.

3. API keys, AI gateways, agents dan model integrations kini merupakan sebahagian daripada attack surface.

4. AI juga digunakan untuk scam, surveillance, influence operations, weapons/biological research dan model distillation.

5. Pertahanan tidak boleh hanya bergantung kepada static rules; identity, secrets, monitoring, behavioural detection dan control terhadap AI agents semakin penting.

Dan satu perkara yang sangat relevan dengan kerja: report ini menunjukkan bahawa AI supply chain sendiri sudah menjadi sebahagian daripada cybersecurity perimeter — bukan lagi sekadar "tool yang developer gunakan".