‘ஏஐ’ தளங்களின் நம்பகத்தன்மையைச் சோதித்துப் பார்க்கப் புதிய கருவி

மனிதர்களின் தலையீடு அதிகமின்றிச் செயல்படும் செயற்கை நுண்ணறிவுத் (ஏஐ) தளங்களின் பாதுகாப்பு அம்சத்தையும் நம்பகத்தன்மையையும் சோதித்துப் பார்க்க நிறுவனங்களுக்கு உதவுவதற்குப் புதிய கருவி ஒன்று வெளியிடப்பட்டுள்ளது.

செயற்கை நுண்ணறிவுப் பாதுகாப்புச் சோதனைக் களமாக சிங்கப்பூரை உலகளவில் பெயர் பதிக்கச் செய்யும் முயற்சிகள் எடுக்கப்பட்டுவருகின்றன. அதன் தொடர்பில் வெளியிடப்பட்டுவரும் பல கருவிகள்/தளங்களில் இதுவும் அடங்கும்.

செயற்கை நுண்ணறிவுத் தளங்கள் கட்டுப்பாடின்றி தவறான செயல்களில் ஈடுபடுவதாகப் பல செய்திகள் வெளியாகிவரும் நிலையில் ஏஐ முறைகளின் பாதுகாப்பையும் நம்பகத்தன்மையையும் சோதிப்பதற்கான தொடக்க நடவடிக்கைக் கருவியைப் (Starter Kit for Testing Agentic Systems for Safety and Reliability) பற்றிய அறிவிப்பு இடம்பெற்றுள்ளது.

சீரான கட்டமைப்பைக் கொண்ட அணுகுமுறை

ஒரு செயற்கை நுண்ணறிவுத் தளம் திட்டமிடப்பட்ட பணியைச் சரிவரச் செய்து முடித்ததா, எப்படி அதைச் செய்தது என்பன போன்றவற்றைப் புதிய கருவி சீரான கட்டமைப்பைக் கொண்ட அணுகுமுறையைப் பயன்படுத்தி சோதனையிடும் என்று தகவல்தொடர்பு ஊடக மேம்பாட்டு ஆணையத்தின் தலைமை நிர்வாகி இங் செர் போங் புதன்கிழமை (அக்டோபர் 14) தெரிவித்தார்.

“செயற்கை நுண்ணறிவுக்கு நாம் கூடுதல் அதிகாரம் வழங்கும்போது அது எப்படி பயன்படுத்தப்படுகிறது என்பதையும் நாம் மேலும் நன்கு அறியவேண்டும். அந்தத் தளங்கள் எதிர்பார்ப்புகளுக்கு உகந்த வகையில் செயல்படுவதை உறுதிசெய்ய கட்டுப்பாடுகளைச் செயல்படுத்துதல், ஆதாரம் சேமித்தல், பொறுப்பேற்பு ஆகிய அம்சங்களை எவ்வாறு கையாள்வது என்பதை ஆராயவேண்டும்,” என்று திரு இங் விளக்கினார்.

எஸ்ஜி தொழில்நுட்பச் சங்கம், தகவல்தொடர்பு ஊடக மேம்பாட்டு ஆணையத்தின்கீழ் வரும் பிரிவான ஏஐ வெரிஃபை அறநிறுவனம் ஆகியவற்றின் ஏற்பாட்டில் நோவொட்டெல் சிங்கப்பூர் ஆன் ஸ்டீவன்ஸ் ஹோட்டலில் நடந்த நிகழ்ச்சியில் அவர் பேசினார். ஏஐ வெரிஃபை அறநிறுவனம், தனியார் துறையுடன் சேர்ந்து செயற்கை நுண்ணறிவுத் தரநிலைகளைத் தீர்மானிக்கிறது.

செயற்கை நுண்ணறிவுத் தளங்கள் கடந்த சில மாதங்களாகத் தவறான முறையில் செயல்பட்டதாக வெளியானச் செய்திகளை திரு இங் சுட்டினார். ஆஸ்திரேலிய அரசாங்கக் கட்டமைப்பில் பொதுமக்களுக்குத் தெரியக்கூடாத தகவல்களை, ஓப்பன்ஏஐ நிறுவனத்தின் சோதனைக் கட்டத்தில் உள்ள தளம் பெற்றது அதுபோன்ற சம்பவங்களில் அடங்கும்.