Anthropic

#references #companies #gpt #research #programming #coding #security #governance #sdk

Anthropic adalah perusahaan safety dan riset AI. Halaman perusahaannya menyebut sistem yang reliabel dan steerable.

Fokusnya adalah sistem yang dapat diandalkan dan dipahami. Klaim misi ini menjelaskan arah, bukan bukti hasil safety aktual.

Safety diperlakukan sebagai sains sistematis. Riset diterapkan ke produk, lalu wawasan produk diberi umpan balik ke riset.

Pendekatan ini bersifat multidisiplin dan kolaboratif. Pemerintah, akademisi, nonprofit, dan industri dilibatkan untuk safety luas.

Anthropic termasuk pembuat LLM generatif. Keluaran yang lancar tetap dapat salah, bias, atau tidak sesuai kebutuhan aplikasi.

Konteks penting karena nama model, API, harga, dan kebijakan berubah cepat. Catat model, tanggal akses, dan konfigurasi saat membahas perilaku.

Pandangan safety

Anthropic menilai dampak AI dapat sebesar revolusi industri dan sains. Pandangan intinya memakai ekstrapolasi scaling compute.

Pandangan itu mengakui ketidakpastian dan skeptisisme yang wajar. Persiapan tetap dianggap serius karena bukti kemajuan yang cepat.

Masalah intinya adalah perilaku robust. Belum ada yang tahu cara melatih sistem sangat kuat agar helpful, honest, dan harmless.

Risiko mencakup tujuan berbahaya dan kesalahan high-stakes. Kompetisi deployment yang terburu-buru dapat memperbesar kedua risiko tersebut.

Responsnya adalah riset empiris multi-arah. Riset alignment dan transparansi menjadi bagian pendekatan tersebut.

Konstitusi Claude

Konstitusi Claude memandu nilai, pengetahuan, dan kebijaksanaan model lintas situasi.

Urutan prioritas saat konflik adalah safe, etis, patuh pedoman, lalu helpful. Prioritas ini holistik, bukan tie-breaker kaku.

Oversight manusia ditempatkan di atas etika luas selama fase kini. Tujuannya mencegah kesalahan tak terkoreksi sebelum menyebar luas.

Pendekatan ini mengutamakan judgment atas aturan kaku. Aturan dipakai untuk kasus berat yang butuh prediktabilitas dan evaluasi.

Konstitusi dapat diperbarui, terakhir Januari 2026. Verifikasi versi terbaru sebelum mengutip prinsip tertentu.

Motivasi dan prinsip penuh dijelaskan pada pengumuman konstitusi. Prinsip rinci ada pada dokumen induk.

Constitutional AI

Constitutional AI melatih harmlessness lewat feedback AI.

Fase supervised memakai self-critique dan revisi. Fase RL memakai preference model dari penilaian AI sebagai reward.

Hasilnya asisten yang menolak dengan penjelasan, bukan menghindar. Chain-of-thought membantu transparansi keputusan.

Metode ini mengurangi label manusia dan membuat kontrol lebih presisi. Paper penuh tersedia di arXiv.

CAI menjawab keterbatasan feedback implisit. Skala, paparan output mengganggu, dan biaya review menjadi alasan pendekatan eksplisit.

Teknik prompt umum dibahas di Prompt Engineering. Untuk evaluasi perilaku, lihat pola pada AI-Powered Code Review.

Keluarga Claude dan pemilihan model

Claude adalah keluarga model bahasa frontier Anthropic. Gambaran model memuat lineup kini.

Empat model aktif adalah Fable 5.1, Opus 5, Sonnet 5, dan Haiku 4.5. Semuanya mendukung teks dan gambar, vision, serta tool use.

Fable untuk reasoning menuntut dan agen long-horizon. Opus untuk coding agen kompleks dan enterprise dengan thinking adaptif.

Sonnet adalah default serbaguna harian untuk coding dan analisis. Haiku tercepat untuk jawaban ringan dan ekstraksi sederhana.

Panduan Academy memetakan beban rate limit tiap model secara praktis.

Jangan memilih dari nama atau benchmark umum. Ukur task success, latency, biaya, limit, dan kualitas pada kasus nyata.

Gunakan model ID eksplisit pada production. Alias dapat berubah ketika provider memperbarui targetnya.

Rencanakan migrasi sebelum model dihentikan. Simpan eval set, prompt, schema, dan hasil pembanding agar upgrade teruji ulang.

Akses developer

Messages API bersifat stateless untuk kontrol penuh.

Aplikasi selalu mengirim riwayat percakapan penuh. Synthetic assistant messages dapat dipakai untuk membangun pola.

Respons memakai stop_reason eksplisit seperti end, tool, dan refusal. Refusal menyertakan kategori policy pada stop_details.

Model 4.7 ke atas tidak mendukung sampling manual. Hilangkan temperature, top_p, dan top_k lalu arahkan perilaku via prompt.

Pola integrasi frontend dibahas di AI dalam Pengembangan Frontend. Secret tetap berada pada server.

Untuk agen dan orchestration, lihat AI Agents. Setiap tool perlu izin, validasi, approval, dan audit oleh kode.

Tool use

Tool use juga disebut function calling pada dokumen lain.

Client tools dieksekusi aplikasi lewat loop tool_use dan tool_result. Contohnya tool buatan user, bash, dan text editor.

Server tools dieksekusi infrastruktur Anthropic tanpa handler. Contohnya web search, web fetch, dan code execution.

Claude memutuskan pemanggilan dari deskripsi tool tiap turn. Prompt dapat mengarahkan, sedangkan tool_choice memaksa bila perlu.

Pisahkan pemilihan tool dari otorisasi. Identitas, permission, precondition, rate limit, dan audit diperiksa oleh kode.

Tool call adalah input tidak tepercaya. Argumen buatan model dapat salah atau disuntik lewat data eksternal.

Structured output

Structured outputs memakai constrained decoding berbasis grammar.

Dua fitur tersedia, yaitu JSON outputs dan strict tool use. Keduanya dapat dipakai terpisah atau bersamaan dalam satu request.

Schema valid mengurangi parsing error dan retry. SDK mendukung Pydantic, Zod, Java, Ruby, PHP, C#, Go, dan CLI.

Schema disederhanakan sebelum dikirim ke model. Validasi penuh tetap memakai schema asli pada kode aplikasi.

Validasi makna tetap dua tingkat, yaitu bentuk dan domain. Aturan bisnis, izin, dan database diperiksa kode deterministik.

Batasi kompleksitas schema agar kompilasi cepat. Strict tools maks 20, optional params 24, dan timeout kompilasi 180 detik.

Prompt caching dan konteks

Prompt caching memakai cache_control untuk prefiks prompt.

Mode otomatis cocok untuk percakapan multi-turn. Breakpoint eksplisit cocok untuk kontrol presisi atas konten statis.

TTL default lima menit dan opsi satu jam. Tulis cache berbiaya lebih, sedangkan hit cache jauh lebih murah.

Letakkan konten statis di awal prompt sesuai hierarki tools. Jangan pasang breakpoint pada blok yang berubah tiap request.

Konteks Fable, Opus, dan Sonnet kini satu juta token. Haiku 4.5 hanya dua ratus ribu dengan output maks lebih kecil.

Konteks besar bukan memori permanen dan tidak menjamin temuan. Retrieval, urutan sumber, dan eval tetap diperlukan.

MCP dan Agent Skills

Pengumuman MCP membuka standar penghubung AI dan data.

MCP memakai server yang mengekspos data dan klien yang terhubung. Server awal mencakup Drive, Slack, GitHub, Git, dan Postgres.

Spesifikasi kini dibahas pada Model Context Protocol. Detail versi terbaru dicek pada dokumen spesifikasi tersebut.

Agent Skills mengemas keahlian prosedural agen.

Skill berisi SKILL.md, script, dan resource yang dimuat dinamis. Metadata preload sebagai disclosure pertama yang hemat konteks.

Repo publik tersedia di anthropics/skills. Sebagian skill dokumen bersifat source-available.

Pola desain skill dibahas di Skills pada AI Coding Assistants. Alat terkait ada pada Claude Code.

Governance dan safety

Responsible Scaling Policy versi 3.4 mengatur scaling risiko proporsional.

Kebijakan bersifat iteratif dan exportable dengan versi serta redline. Risk report publik diterbitkan berkala sejak versi 3.

Safeguard ASL-3 memakai defense in depth empat lapis. Fokusnya mencegah penyalahgunaan CBRN dan risiko katastropik lain.

Pusat bantuan safety menjadi rujukan operasional user.

Filter dan refusal bukan policy engine lengkap. Aplikasi tetap perlu authorization, validasi, encoding, dan incident response.

Pola review dan quality gate ada pada Refactoring dengan AI. Perbandingan provider ada pada OpenAI dan Gemini.

Evaluasi dan batas kesimpulan

Confidence halaman ini medium. Mekanisme API didukung primer, tetapi lineup dan angka berubah cepat.

Benchmark vendor berguna untuk orientasi, bukan vonis aplikasi. Prompt, tool, konteks, sampling, dan data dapat mengubah hasil.

Buat eval dari pekerjaan nyata. Ukur correctness, groundedness, task completion, format validity, dan tool success.

Sertakan latency, biaya, refusal, safety, dan kualitas lintas pengguna. Bandingkan dengan baseline non-AI pada kondisi sama.

Belum ada perbandingan independen lintasmodel pada workload identik dalam scope ini. Keputusan akhir memakai data aplikasi sendiri.

Model, harga, limit, region, policy, dan SDK berubah cepat. Verifikasi ulang sebelum implementasi dan setelah upgrade besar.

Lihat juga

Sumber

Enter your search text in the box above

Select a result to preview