தானியங்கி safeguard சோதனை வலுவடைந்துள்ளதாக Anthropic தெரிவிப்பு

விளக்கப்படம்: A padlock on a chain; illustrative of security safeguards, not a depiction of Anvil or any Anthropic system. Image: Lacz02, CC BY-SA 4.0, via Wikimedia Commons.
வெளியிடப்பட்ட திகதி: 2026 நவம்பர் 12. ஆராய்ச்சியும் உள்ளக பயன்பாடும் வெளியீட்டுக்கு முன்பே நடந்தன; இது பொதுமக்களுக்கான product வெளியீடு அல்ல.
என்ன நடந்தது: Anthropic நிறுவனம், deployment க்கு முன்னர் safeguards ஐச் சோதிப்பதற்குத் தாங்கள் உள்ளகமாகப் பயன்படுத்தும் Anvil என்ற தானியங்கி red-teaming system ஐ விவரித்துள்ளது. மதிப்பிடப்பட்ட tasks இல், மனிதர்கள் நடத்தும் சோதனைத் திட்டங்களை விட Anvil பலவீனங்களை மிகத் திறமையாகக் கண்டுபிடித்ததாக நிறுவனம் கூறுகிறது. மிகச் சிறந்த முடிவுகள் privileged access ஐ - உள்ளக models, classifier feedback, சோதனை model இல் நிறுத்தப்பட்ட safeguards உட்பட - நம்பியே கிடைத்தன.
ஏன் முக்கியம்: நிலையான test sets மட்டும் இருந்தால், adaptive testing கண்டுபிடிக்கும் தவறுகள் தவறிப்போகக்கூடும். enterprise மதிப்பீட்டாளர்களுக்கான நடைமுறைப் பாடம் என்னவென்றால், மீண்டும் மீண்டும் ஓடக்கூடிய regression tests உடன் கட்டுப்படுத்தப்பட்ட adversarial மதிப்பீட்டையும் இணைக்க வேண்டும் என்பதே. இவை Anthropic தனது சோதனை நிபந்தனைகளின் கீழ் பெற்ற முடிவுகள்; எல்லா safeguards உம் பாதுகாப்பானவை என்பதற்கோ, மனிதர்களின் மதிப்பாய்வு தேவையில்லை என்பதற்கோ இவை சான்று அல்ல.