GDPR-இணக்க AI சாட்பாட்களை உருவாக்குதல்: தனியார் AI-க்கான வாதம்

GDPR-இணக்க AI சாட்பாட்களை உருவாக்குதல்: தனியார் AI-க்கான வாதம்

Image: {alt}

முறை குறிப்பு: கீழே உள்ள தளக் கூற்றுகள் (Llama 3, Mistral Large, Cohere Command R+, Azure OpenAI, TGI + Zephyr) பிப்ரவரி முதல் ஆகஸ்ட் 2026 வரை விற்பனையாளர் ஆவணங்கள் மற்றும் DG10 நிறுவல் அனுபவத்தைப் பிரதிபலிக்கின்றன, செப்டம்பர் 2026-இல் மீண்டும் சரிபார்க்கப்பட்டன. மாதிரி பதிப்புகளை நகரும் இலக்குகளாகக் கருதி கையெழுத்திடுவதற்கு முன் DPA மற்றும் தரவு-குடியிருப்பு விதிமுறைகளை உறுதிப்படுத்துங்கள்.

Image: {alt}

Image: {alt}

Image: {alt}

வாடிக்கையாளர்களுக்காக AI சாட்பாட்களை உருவாக்கத் தொடங்கியபோது, முதன்மை கவலை எப்போதும் தரவு தனியுரிமையே. வாடிக்கையாளரை எதிர்கொள்ளும் bot-இல் ஒரு large language model-ஐச் செருகிவிட்டு நல்லது நடக்கும் என்று நம்ப முடியாது. GDPR இணக்கத்தில் நீங்கள் தீவிரமாக இருந்தால் அல்ல. அதனால்தான் என் கவனத்தை private AI — உங்கள் உள்கட்டமைப்பில் இயங்கும், மூன்றாம் தரப்பினருக்கு ஒருபோதும் தரவைக் கசியவிடாத, பயனர் தகவல் மீது முழுக் கட்டுப்பாட்டைத் தரும் மாடல்கள். இந்த வழிகாட்டியில், private AI மூலம் GDPR-இணக்க chatbot-ஐ உருவாக்குவது எப்படி, கருத்தில் கொள்ள வேண்டிய சிறந்த தளங்கள், உங்கள் bot பாதுகாப்பானதும் நம்பகமானதும் என்பதை உறுதிசெய்யும் துல்லியமான படிகள் ஆகியவற்றை விளக்குகிறேன்.

பந்தயம் எப்போதையும் விட அதிகம். IBMஇன் 2023 Cost of a Data Breach அறிக்கையின்படி, சராசரி மீறல் இப்போது $4.45 மில்லியன் செலவாகிறது, சுகாதாரம் மற்றும் நிதி போன்ற கடுமையாக ஒழுங்குபடுத்தப்பட்ட தொழில்களில் அது $10 மில்லியனைத் தாண்டலாம். இதற்கிடையே, EU கட்டுப்பாட்டாளர்கள் இரக்கமற்றவர்களாகிவிட்டனர்: GDPR அபராதங்கள் 2023இல் மட்டும் €2.9 பில்லியனைத் தாண்டின (DLA Piper GDPR Fines and Data Breach Survey 2024), 2024 EU AI Act தனிப்பட்ட தரவைச் செயலாக்கும் எந்த அமைப்புக்கும் புதிய கடமைகளைச் சேர்க்கிறது. உங்கள் வாடிக்கையாளர் சாட்பாட் தவறினால், மோசமான அனுபவத்தை மட்டும் ஆபத்தில் விடவில்லை — ஒழுங்குமுறை கனவை ஆபத்தில் விடுகிறீர்கள். அதனால்தான் நான் private AIஐ வலியுறுத்துகிறேன்.

GDPR-இணக்க சாட்பாட்களின் அடித்தளம் தரவு தனியுரிமை ஏன்

GDPR பிரிவு 5 தரவு குறைப்பு, நோக்க வரம்பு மற்றும் சேமிப்பு வரம்பு போன்ற கொள்கைகளை வரையறுக்கிறது. பெரும்பாலான பொது AI API-கள் தொலை சர்வர்களில் தரவைச் செயலாக்குகின்றன, பெரும்பாலும் EU-க்கு வெளியே உள்ள அதிகார வரம்புகளில். அது இணக்கக் கனவு. Cisco-வின் 2023 கணக்கெடுப்பில் 76% நிறுவனங்கள் AI ஏற்றுக்கொள்ளலுக்குத் தரவுத் தனியுரிமை முதன்மையானது என்கின்றன (Cisco 2023 Data Privacy Benchmark Study). உங்கள் சாட்பாட் தனிப்பட்ட தரவை — பெயர்கள், மின்னஞ்சல்கள், வினவல்கள் — செயலாக்கினால், உங்களுக்குச் சட்டப்பூர்வ அடிப்படை தேவை, பொதுவாக ஒப்புதல் அல்லது நியாயமான நலன். ஆனால் ஒப்புதல் கூட வடிவமைப்பு மற்றும் இயல்புநிலையால் தரவுப் பாதுகாப்புக் கொள்கையிலிருந்து (பிரிவு 25) உங்களை விலக்காது. Private AI மட்டுமே அதை உத்தரவாதம் செய்யும் ஒரே வழி.

டாலர்களிலும் சென்டுகளிலும் சொல்வோம். 2022 முதல் 2023 வரை ஒரு சம்பவத்திற்கான சராசரி GDPR அபராதம் 40% உயர்ந்தது, ஐரோப்பா முழுவதும் உள்ள மேற்பார்வை அதிகாரிகள் இப்போது AI தொடர்பான மீறல்களில் குறிப்பாகக் கவனம் செலுத்துகின்றனர். மார்ச் 2023-இல் ChatGPT மீது இத்தாலியத் தரவுப் பாதுகாப்பு ஆணையத்தின் தற்காலிகத் தடை ஒரு எச்சரிக்கை: பயனர் தரவு மாதிரிப் பயிற்சிக்குப் பயன்படுத்தப்படவில்லை என்பதை OpenAI நிரூபிக்க முடியாததும், சில செயலாக்கங்களுக்குச் சட்ட அடிப்படை இல்லாததுமே கடுமையான நடவடிக்கையைத் தூண்டின. இது OpenAI-க்கு EU-வில் வாரக்கணக்கில் கட்டுப்படுத்தப்பட்ட அணுகலையும், அவசரமாகத் தனியுரிமை வழிகாட்டி மற்றும் தரவு-செயலாக்கப் படிவத்தை வெளியிட வேண்டிய கட்டாயத்தையும் ஏற்படுத்தியது. பாடம்? தனியுரிமைச் சவாலால் பொது LLM ஒரே இரவில் முடக்கப்படலாம். உங்கள் வாடிக்கையாளர் சாட்பாட் இருண்டால், வணிகப் பாதிப்பு உடனடி. தனியார் AI உங்களை இந்த ஆபத்திலிருந்து காக்கிறது, ஏனெனில் தரவையும் செயலாக்கத்தையும் நீங்கள் கட்டுப்படுத்துகிறீர்கள்.

உணர்திறன் தரவுக்குப் பொது LLM-களைப் பயன்படுத்துவதில் உள்ள சவால்கள்

When you use OpenAI's GPT-4 or Anthropic's Claude-ஐ API வழியாகப் பயன்படுத்தினால், உங்கள் prompts மற்றும் பதில்கள் அவர்களின் servers-க்கு அனுப்பப்படும். உங்கள் தரவில் பயிற்சி செய்ய மாட்டோம் என்று அவர்கள் உறுதியளித்தாலும் (2024 நிலவரப்படி OpenAI-ன் API பயன்பாட்டுக் கொள்கை போல), மூன்றாம் தரப்பு உள்கட்டமைப்பிற்கு அனுப்புவதே, கையொப்பமிடப்பட்ட Data Processing Agreement (DPA) இல்லாவிட்டால் மற்றும் server இருப்பிடம் adequacy முடிவுகளைப் பூர்த்தி செய்யாவிட்டால் GDPR-ஐ மீறலாம். தரவு அணுகல் கோரிக்கைகள் மற்றும் நீக்கல் மீதான கட்டுப்பாட்டையும் இழக்கிறீர்கள். சுகாதாரம், நிதி அல்லது சட்டப் பயன்பாடுகளுக்கு, பொது LLMs பெரும்பாலும் தடைசெய்யப்பட்டவை.

Real-world example: 2023-இல், Samsung ஊழியர்கள் தற்செயலாக ChatGPT வழியாக முக்கியத் தரவைக் கசியவிட்டனர் (ஆதாரம்: The Economist). அதனால்தான் நிறுவனங்கள் private AI-ஆல் இயங்கும் பாதுகாப்பான chatbots-ஐப் பயன்படுத்த அவசரப்படுகின்றன.

Samsung சம்பவத்திற்கு அப்பால், மையப்படுத்தப்பட்ட கிளவுட் AI வழங்குநரை நம்பியிருப்பதில் முறையான குறைபாடு உள்ளது. பயனர் தரவு நீக்கம் கோரும்போது, தரவைக் கண்டறிந்து அழிக்க வழங்குநரின் கருவிகளையே நம்ப வேண்டும் — அவர்கள் ஒரு-தூண்டுதல் நீக்கத்தை வழங்கினால். தரவு இனி தேவையில்லாதபோது அழிக்கப் பயனர்களுக்கு முழு உரிமையை GDPR பிரிவு 17 தருகிறது. உங்கள் சொந்த Kubernetes கிளஸ்டரில் இயங்கும் தனியார் AI அமைப்பில், பின்தளப் பதிவுகள் மற்றும் உட்பொதிப்புகளை நிகழ்நேரத்தில் நீக்கி, மேற்பார்வை அதிகாரத்திற்கு நேர்த்தியாக ஆவணப்படுத்தலாம். உங்கள் தரவு ஹைப்பர்ஸ்கேலரின் கேச்சிங் அடுக்குகளில் சிதறியிருக்கும்போது அதே உறுதியுடன் செய்ய முடியாது.

Private AI என்றால் என்ன, அது பாதுகாப்பான சாட்பாட்களை எவ்வாறு சாத்தியமாக்குகிறது?

பிரைவேட் AI என்பது உங்கள் சொந்த உள்கட்டமைப்பில் ஹோஸ்ட் செய்யப்பட்டு இயங்கும் இயந்திரக் கற்றல் மாதிரிகளைக் குறிக்கிறது — வளாகத்தில், உங்கள் தனியார் கிளவுடில், அல்லது உங்கள் நெட்வொர்க்கை விட்டு எந்தத் தரவும் வெளியேறாத பிரத்யேக மெய்நிகர் தனியார் கிளவுடில் (VPC). இதில் நீங்களே நுணுக்கமாக்கி பயன்படுத்தக்கூடிய Llama 3, Mistral மற்றும் Falcon போன்ற திறந்த மூல மாதிரிகள் அல்லது தனிமைப்படுத்தப்பட்ட நிகழ்வுகளை வழங்கும் நிர்வகிக்கப்பட்ட சேவைகள் (போன்றவை அடங்கும் Azure OpenAI தரவு இருப்பிட உத்தரவாதங்களுடன்).

தனியார் AI-ஆல் உருவாக்கப்பட்ட பாதுகாப்பான சாட்போட் என்பது:

• அனைத்து உரையாடல் தரவும் உங்கள் கட்டுப்படுத்தப்பட்ட சூழலுக்குள்ளேயே இருக்கும்.
• தேவைக்கேற்ப தரவை அநாமதேயமாக்கலாம், குறியாக்கலாம் மற்றும் நீக்கலாம்.
• இணக்கத்திற்காக ஒவ்வொரு prompt-ம் பதிலையும் தணிக்கை செய்யலாம்.
• தனியுரிமைத் தகவலை வெளிப்படுத்தாமல் மாதிரிகளை ஃபைன்-டியூன் செய்யலாம்.

பாதுகாப்பான சாட்பாட் கட்டமைப்பின் முக்கிய கூறுகள்

1. Local அல்லது VPC-ஹோஸ்ட் செய்யப்பட்ட LLM — Llama 3 70B, Mistral Large போன்ற மாடல்களைப் பயன்படுத்துங்கள், அல்லது Cohere உங்கள் சொந்த cloud-இல் Command R+.
2. RAG-க்கான Vector தரவுத்தளம் — உட்பொதிவுகளைச் சேமிக்க Weaviate or Pinecone (VPC உடன்). எந்தத் தரவும் உங்கள் நெட்வொர்க்கை விட்டு வெளியேறாமல் உறுதி செய்யுங்கள்.
3. தரவு முன்-செயலாக்க பைப்லைன் — Strip PII using Microsoft Presidio before embedding.
4. Access control — அங்கீகரிக்கப்படாத வினவல்களைத் தடுக்க அங்கீகாரம் மற்றும் அங்கீகாரம்.
5. பதிவு மற்றும் தணிக்கை — தொடர்புகளைப் பதிவு செய்யுங்கள், ஆனால் பதிவுகளை குறியாக்கி தனிமைப்படுத்தப்பட்ட, நேர-வரம்பு பெட்டகத்தில் வையுங்கள்.
6. திட்டமிடப்பட்ட தரவு சுத்தம் — தக்கவைப்புக் கொள்கை கட்டளையிடும் காலத்தை விடப் பழைய பயனர் தரவைத் தானாக நீக்குதல்.
7. வெளிப்படையான ஒப்புதல் மேலாண்மை — முதல் தொடர்புக்கு முன் துகள் பயனர் ஒப்புதலைப் பிடித்து சேமிக்கும் ஒப்புதல் நுழைவாயில்.

ஆனால் கட்டமைப்பு மட்டும் போதாது. இந்தக் கூறுகளை ஆளுகை கட்டமைப்புடன் இணைக்கும்போதுதான் உண்மையான மாயம் நிகழ்கிறது. ஒவ்வொரு தரவுப் புள்ளியும் எங்கே பாய்கிறது, எவ்வளவு காலம் வாழ்கிறது, யார் பார்க்கலாம் என்பதை வரைபடமாக்க ஒவ்வொரு வாரமும் எங்கள் வாடிக்கையாளர்களுடன் அமர்கிறேன். அந்தச் செயல்முறைதான் அபராதம் விதிக்கக்கூடிய பாட்டை பாதுகாப்பான பாட்டிலிருந்து பிரிக்கிறது.

2026-இல் GDPR-இணக்க சாட்பாட்களுக்கான சிறந்த தனியார் AI தளங்கள்

கடந்த இரண்டு ஆண்டுகளில், நான் ஒரு டஜன் தளங்களைக் கடுமையாகச் சோதித்தேன். தரவை உண்மையில் தனியாக வைத்திருந்து, சாட்பாட் அடுக்குகளுடன் சீராக ஒருங்கிணைபவை இதோ.

Platform	Hosting Model	Key Privacy Feature	Ideal For
Llama 3 (Meta)	Ollama, vLLM அல்லது TGI வழியாக சுய-ஹோஸ்ட்	உங்கள் network-ஐ விட்டு data ஒருபோதும் வெளியேறாது	வலுவான DevOps குழுக்கள் கொண்ட நிறுவனங்கள்
Mistral Large	சுய-ஹோஸ்ட் அல்லது Azure வழியாக (தனியார் முனை)	இறையாண்மை கிளவுட் விருப்பம், API‑தரவு தக்கவைப்பு இல்லை	குடியிருப்பு உத்தரவாதங்கள் தேவைப்படும் ஐரோப்பிய நிறுவனங்கள்
Cohere Command R+	AWS / GCP வழியாக பிரத்யேக VPC	உத்தரவாதத் தரவுத் தனிமை + DPA	SLA-ஆதரவு இயக்கநேரத்தைத் தனியுரிமையுடன் விரும்பும் குழுக்கள்
Azure OpenAI Service	Azure பிரைவேட் எண்ட்பாயிண்ட்	மாதிரிகளுக்குப் பயிற்சியளிக்கப் பயன்படுத்தப்படாத பிராம்ப்டுகள் மற்றும் நிறைவுகள், EU தரவு எல்லை	ஏற்கனவே இணக்க அடுக்குகள் கொண்ட Microsoft‑மைய நிறுவனங்கள்
Hugging Face TGI + Zephyr	உங்கள் சொந்த GPU கிளஸ்டர்	முழு open‑source; வெளிப்புறச் சார்புகள் ஏதுமில்லை	வெண்டர் lock-in ஆபத்தை எடுக்க முடியாத, குறைந்த பட்ஜெட்டில் உள்ள ஸ்டார்ட்அப்கள் மற்றும் திட்டங்கள்

சில மாதங்களுக்கு முன் ஃபின்டெக் வாடிக்கையாளர் ஒருவரை பொதுவான OpenAI endpoint-லிருந்து AWS VPC-க்குள் உள்ள தனியார் Mistral Large நிறுவலுக்கு மாற்ற உதவினேன். தரவு கசிவு தொடர்பான ஒரு கண்டுபிடிப்பும் இல்லாமல் ஊடுருவல் சோதனையில் முதன்முறையாகத் தேர்ச்சி பெற்றதாக அவர்களின் இணக்க அதிகாரி கூறினார். தனியார் AI தரும் வெற்றி அத்தகையது.

படிப்படியாக: Private AI உடன் GDPR-உணர்வுள்ள சாட்பாட்டை உருவாக்குவது எப்படி

DG10-ல் என் குழு பின்பற்றும் சரியான செயல்முறையை உங்களுக்கு விளக்குவேன். சரியாகப் பதிலளிப்பது மட்டுமல்ல, ஒவ்வொரு GDPR உரிமையையும் மதிக்கும் சாட்பாட்டை வழங்குவதே இலக்கு.

1. முதலில் தரவுத் தடத்தை வரையறுக்கவும்.
எந்த GPU-ஐயும் தொடங்குவதற்கு முன், bot தொடக்கூடிய ஒவ்வொரு PII துண்டையும் நான் வரைபடமாக்குகிறேன் — பெயர், மின்னஞ்சல், IP முகவரி, இருப்பிடம், உரையாடல் என்றால் குரல் தொனி கூட. பின்னர் கண்டிப்பாகத் தேவையானது எது என முடிவு செய்கிறேன். Article 5(1)(c)-இன் கீழ், தரவைக் குறைக்க வேண்டும். e-commerce திரும்பப் பெறும் bot-க்கு, ஆர்டர் எண் மற்றும் சிக்கல் விளக்கம் மட்டும் போதும். வாடிக்கையாளரின் முழுப் பெயர் தேவையில்லை.

2. உங்கள் தனியார் LLM-ஐத் தேர்ந்து பயன்படுத்துக.
நாங்கள் பொதுவாக container-ஆக்கப்பட்ட மாதிரியுடன் தொடங்குகிறோம் Ollama நிரூபண-கருத்துக்கு, பின் நகரவும் vLLM உற்பத்திக்கு பிரத்யேக GPU முனையில். திறவுகோல்: உங்கள் சாட்போட் பேக்எண்ட் மட்டுமே அடையக்கூடிய தலைகீழ் ப்ராக்ஸிக்கு பின்னால் API முடிவுப்புள்ளி இருக்க வேண்டும் — நேரடி இணைய வெளிப்பாடு இல்லை.

3. உள்ளூர் வெக்டர் ஸ்டோரை அமைக்கவும்.
chatbot-க்கு அறிவுத் தள மீட்பு தேவைப்பட்டால், நான் பயன்படுத்துவது Weaviate ஒரு VPC இல், கிளையன்ட் பக்க குறியாக்கம் மற்றும் கடுமையான தக்கவைப்புக் கொள்கையுடன் உள்ளமைக்கப்பட்டுள்ளது. அந்த VPC க்கு வெளியே வட்டில் உட்பொதிக்கும் தரவு எதுவும் எழுதப்படவில்லை. கூடுதல் தனியுரிமைக்கு, நான் விண்ணப்பிக்கிறேன் Microsoft Presidio உட்பொதிப்புகளை உருவாக்குவதற்கு முன் அநாமதேயமாக்கல் — பெயர்களை [PERSON] போன்ற இடப்பெயர்வுகளால் மாற்றுதல்.

4. ஒப்புதல் ஒருங்கிணைப்பு அடுக்கை உருவாக்குங்கள்.
இது பெரும்பாலும் தவறவிடப்படுகிறது. பயனர் எதற்கு ஒப்புக்கொண்டார் என்பதைச் சரியாகப் பதிவு செய்யும் இலகுவான ஒப்புதல் API-ஐச் சேர்க்கிறேன், நேர முத்திரைகள் மற்றும் IP-முகவரி நீக்கப்பட்டு (non-repudiation-க்காக hash செய்யப்பட்ட பதிப்பை வைத்திருப்பீர்கள்). கையொப்பமிடப்பட்ட ஒப்புதல் token இருந்தால் மட்டுமே chatbot தொடரும். அந்த ஒப்புதல் token ஒவ்வொரு 30 நாட்களுக்கும் காலாவதியாகி, புதுப்பிக்கக் கட்டாயப்படுத்துகிறது — பல EU DPA-க்கள் பாராட்டிய நடைமுறை.

5. மாறும் தரவு சுத்திகரிப்பைச் செயல்படுத்துங்கள்.
எல்லாத் தரவும் சமமாக உருவாக்கப்படவில்லை. உரையாடல் பதிவுகளை 24 மணி நேரத்திற்குப் பிறகு நீக்கும் அல்லது பகுப்பாய்வுக்குத் தேவைப்பட்டால் அநாமதேயமாகக் குறிக்கும் cron job-களை எழுதுகிறேன். எந்தவொரு தரவு அணுகல் கோரிக்கைக்கும், அமைப்பு தானாகவே பயனரின் முழு அரட்டை வரலாற்றையும் இழுத்து, பதிவிறக்கி, பின்னர் 72 மணி நேரத்திற்குள் அழிக்கிறது — GDPR-இன் ஒரு மாதக் காலக்கெடுவிற்குள்.

6. தணிக்கைக்குத் தயாரான பதிவு.
ஒவ்வொரு prompt-ம் பதிலும் மறைகுறியாக்கப்பட்ட வடிவில் பதிவு செய்யப்படுகிறது. ஆனால் பதிவுகளிலிருந்து PII-ஐ முழுமையாக நீக்குகிறேன் — பெயர்கள் இல்லை, மின்னஞ்சல் முகவரிகள் இல்லை. பதிவுகள் “என்ன தவறு நடந்தது?” என்பதற்குப் பதிலளிக்கின்றன, “யார் என்ன சொன்னார்கள்?” என்பதற்கு அல்ல. இதனால், ஒழுங்குமுறை அமைப்பு பதிவுகளைக் கேட்டால், தனிப்பட்ட தரவை ஒப்படைக்க மாட்டீர்கள்.

இந்தச் செயல்முறையின் முடிவில், உங்கள் தரவுப் பாதுகாப்பு அதிகாரியிடம் நம்பிக்கையுடன் வழங்கக்கூடிய சாட்பாட் உங்களிடம் இருக்கும். அந்த நம்பிக்கை முக்கியம். DPO எங்கள் தரவு ஓட்டம் குறித்து ஐந்து கேள்விகள் கேட்ட அழைப்புகளில் நான் இருந்திருக்கிறேன்; வடிவமைப்பு இயல்பாகவே வெளிப்படையாக இருந்ததால் அனைத்திற்கும் நொடிகளில் பதிலளித்தோம்.

செயலில் உள்ள தனியார் AI-யின் நிஜ உலக வழக்கு ஆய்வுகள்

வழக்கு 1: ஐரோப்பிய வங்கி – வாடிக்கையாளர் ஆதரவு பாட்
ஒரு பெரிய ஜெர்மன் வங்கி HR கேள்விகளுக்குப் பதிலளிக்க உள் bot-ஐ விரும்பியது. பொது cloud LLM-கள் கண்டிப்பாகக் கூடாது. NVIDIA Triton-ஐப் பயன்படுத்தி fine-tune செய்யப்பட்ட Mistral 7B-ஐ on-premises-இல் நிறுவினோம். அனைத்துத் தரவும் அவர்களின் data center-க்குள்ளேயே இருந்தது. மூன்று மாதங்களுக்குள், அந்த bot HR டிக்கெட்டுகளில் 40%-ஐக் கையாண்டது, மேலும் முழுச் சங்கிலியும் தணிக்கைக்கு உட்பட்டதால் வங்கியின் தரவு பாதுகாப்புக் குழு ஒப்புதல் அளித்தது. hardware security module (HSM) ஒருங்கிணைப்பைச் சேர்த்த பிறகு, வாடிக்கையாளர் அடையாளச் சரிபார்ப்புப் பதில்களைக் கையாளவும் அதை விரிவுபடுத்தினர்.

வழக்கு 2: ஹெல்த்-டெக் ஸ்டார்ட்அப் – நோயாளி வகைப்படுத்தல் உதவியாளர்
வாடிக்கையாளருக்கு GDPR Article 9-இன் கீழ் சிறப்பு வகைத் தரவைக் கையாளும் அறிகுறிச் சரிபார்ப்பான் தேவைப்பட்டது. மருத்துவத் தரவுத்தொகுப்புகளில் fine-tune செய்யப்பட்ட Llama 3 8B உடன் தனியார் AI stack-ஐப் பயன்படுத்தினோம், air-gapped Kubernetes cluster-இல் ஹோஸ்ட் செய்யப்பட்டது. அனைத்து PII-ம் உள்வாங்கலிலேயே புனைப்பெயராக்கப்பட்டது. அந்த startup சாதனை நேரத்தில் ISO 27001 சான்றிதழைப் பெற்றது, ஓரளவு தனியார் AI அமைப்பு இடர் மதிப்பீடுகளை எளிதாக்கியதால்.

வழக்கு 3: சட்ட நிறுவனம் – ஒப்பந்த பகுப்பாய்வு பாட்
UK-ஐச் சேர்ந்த ஒரு சட்ட நிறுவனம் தினமும் ஆயிரக்கணக்கான ஒப்பந்தங்களைச் செயலாக்கியது. அவர்களின் தற்போதைய தீர்வு மூன்றாம் தரப்பு NLP API-ஐப் பயன்படுத்தியது, இது வாடிக்கையாளர்-வழக்கறிஞர் சலுகையை (client-attorney privilege) ஆபத்தில் ஆழ்த்தியது. தனிப்பயன் BERT மாதிரி மற்றும் LangChain உடன் தனியார் AI அமைப்பை நாங்கள் உருவாக்கினோம், முழுவதும் on-prem. இந்த அமைப்பு இணையத்துடன் ஒருபோதும் இணைவதில்லை. அந்த நிறுவனம் இப்போது due diligence-ஐ 3x வேகமாக இயக்குகிறது, மேலும் ஒவ்வொரு தரவும் அவர்களின் பாதுகாப்பான நெட்வொர்க்கை விட்டு வெளியேறாததால் வழக்கறிஞர்-வாடிக்கையாளர் சலுகைக்கு உட்பட்டது.

இவை கற்பனைகள் அல்ல. private AI இணக்க சிவப்புக் கொடியைப் போட்டி வேறுபாடாக மாற்றுவதை நானே நேரில் பார்த்திருக்கிறேன். தரவு இறையாண்மையை உத்தரவாதம் செய்ய முடிவதால்தான் ஒப்பந்தங்களை வெல்வதாக வாடிக்கையாளர்கள் அடிக்கடி கூறுகின்றனர்.

GDPR சாட்பாட்களுக்குத் தனியார் AI-ஐ ஏற்கும்போது பொதுவான ஆபத்துகள் (மற்றும் அவற்றைத் தவிர்ப்பது எப்படி)

சிறந்த நோக்கங்கள் இருந்தாலும், குழுக்கள் தடுமாறுகின்றன. மக்கள் விழுவதை நான் பார்த்த முக்கிய பொறிகள் இதோ.

• “on‑premises” தானாகவே GDPR இணக்கம் என்று நம்புவது.
  உங்கள் basement-இல் சர்வர் வைப்பது தரவுப் பகிர்வுக் கடமைகளை மாயமாக அழிக்காது. சட்டப்பூர்வ அடிப்படை, முறையான ஒப்புதல், தரவை நீக்கும் திறன் இன்னும் தேவை. ஒருமுறை நான் மதிப்பாய்வு செய்த அமைப்பில் chatbot முழு அரட்டைப் பதிவுகளையும் 18 மாதங்கள் மறைகுறியாக்கமின்றிச் சேமித்தது — on-prem ஆனால் நியாயப்படுத்த முடியாதது.

• மாடல் பயிற்சித் தரவைப் பற்றி மறப்பது.
  பயனர் உரையாடல்களில் மாதிரியை fine-tune செய்தால், அந்தப் பயிற்சித் தொகுப்பே தனிப்பட்ட தரவாகும். பயனர்களுக்குத் தெரிவிக்க வேண்டும், ஒப்புதல் பெற வேண்டும், விலக அனுமதிக்க வேண்டும். 2025-இல், பிரெஞ்சு CNIL ஒரு startup-ஐ, போதிய அறிவிப்பின்றி வாடிக்கையாளர் அரட்டைகளை மாதிரியை மேம்படுத்தப் பயன்படுத்தியதற்காக அபராதம் விதித்தது. அந்தத் தவறை மீண்டும் செய்யாதீர்கள்.

• GPU செலவு மற்றும் பராமரிப்பைக் குறைத்து மதிப்பிடுதல்.
  70B parameter மாதிரியை இயக்குவது மலிவல்ல. தயாரிப்பிற்குக் குறைந்தது இரண்டு A100 GPU-களுக்கு நான் எப்போதும் பட்ஜெட் ஒதுக்குகிறேன். ஆனால் தொடர் கண்காணிப்பைக் கணக்கில் கொள்ளப் பல குழுக்கள் மறந்துவிடுகின்றன. மாதிரி விலகல் மற்றும் மீள்பயிற்சியைக் கண்காணிக்க MLflow போன்ற MLOps கருவிகளைப் பயன்படுத்துங்கள் — இல்லையெனில், காலாவதியான சட்ட அல்லது மருத்துவ ஆலோசனை வழங்கும் பழைய bot உடன் முடிவீர்கள், இது தனியாக இணக்க ஆபத்து.

• விளக்கத்திற்கான உரிமையைப் புறக்கணித்தல்.
  GDPR Article 22, குறிப்பிடத்தக்க விளைவுகளைக் கொண்ட முழுத் தானியங்கு முடிவுகளுக்கு உட்படாமல் இருக்கப் பயனர்களுக்கு உரிமை அளிக்கிறது. உங்கள் chatbot கடன் விண்ணப்பத்தை நிராகரித்தால், ஏன் என விளக்க வேண்டும். தனியார் AI உடன், பதிலை மட்டுமல்ல, ஊகப் படிகளையும் (chain-of-thought வழியாக) பதிவு செய்யலாம். மனிதர்கள் படிக்கக்கூடிய விளக்கங்களை உருவாக்க அந்தப் பதிவுகளைப் பயன்படுத்துங்கள். பொது API-கள் அரிதாகவே அந்த அளவு உள்நோக்கை வழங்குகின்றன.

• ஊடுருவல் சோதனையைத் தவிர்ப்பது.
  தனியார் AI chatbot இன்னும் ஒரு web application தான். தாக்குபவர்கள் PII-ஐப் பிரித்தெடுக்க prompt injection-ஐ முயற்சிக்கலாம். ஒவ்வொரு deployment-க்குப் பிறகும் பிரத்யேக red-team பயிற்சியை நான் வலியுறுத்துகிறேன். ஒரு சோதனையில், உருவகப்படுத்தப்பட்ட தாக்குபவர் ஒரு bot-ஐ உள் பணியாளர் பெயர்களை வெளிப்படுத்தச் செய்தார். கண்டிப்பான output filter-ஐச் சேர்த்து, adversarial எடுத்துக்காட்டுகளுடன் மீண்டும் பயிற்சி அளித்து அதைச் சரிசெய்தோம். மூடிய API-உடன் இதை முழுமையாகக் கட்டுப்படுத்த முடியாது.

GDPR இணக்கத்திற்கான தனியார் AI-இன் ROI-ஐ அளவிடுதல்

சில நிர்வாகிகள், “மலிவான API-கள் இருக்கும்போது தனியார் வன்பொருளில் ஏன் செலவிட வேண்டும்?” என்று கேட்கிறார்கள். நான் மூன்று கடினமான எண்களைச் சுட்டிக்காட்டுகிறேன்.

1. Fine avoidance. சராசரி GDPR அபராதம் இப்போது €1.56 மில்லியன். ஒரு சம்பவம் ஆண்டுகள் API சேமிப்பை அழித்துவிடும்.
2. Customer trust. 2025 TrustArc கணக்கெடுப்பில், AI தரவைத் தவறாகக் கையாளும் brand-ஐ 82% நுகர்வோர் பயன்படுத்துவதை நிறுத்துவர் எனக் கண்டறியப்பட்டது. B2B-இல், தரவு இறையாண்மை பெரும்பாலும் ஒப்பந்தத் தேவை. தனியார் AI அந்த ஒப்பந்தங்களில் கையெழுத்திட உதவுகிறது.
3. செயல்பாட்டுக் கட்டுப்பாடு. உங்கள் சொந்த மாதிரியை நீங்கள் ஹோஸ்ட் செய்யும்போது, எந்த நேரத்திலும் மேம்படுத்தலாம், இணைப்பு சரிசெய்யலாம் அல்லது மறுபயிற்சி செய்யலாம் — வழங்குநரின் காலவரிசைக்காகக் காத்திருக்க வேண்டியதில்லை. 2024 OpenAI செயலிழப்பின்போது, GPT‑4-ஐ நம்பியிருந்த நிறுவனங்கள் 8 மணி நேரம் முடங்கின. தனியார் AI-இல் இருந்த எங்கள் வாடிக்கையாளர்கள் பூஜ்ஜிய தாக்கம் கண்டனர், ஏனெனில் அவர்களின் பாட் வெளிச் சேவையைச் சார்ந்திருக்கவில்லை. அந்த இயக்க நேரம் மட்டும் ஒரு மின்-வணிக வாடிக்கையாளருக்கு இழந்த விற்பனையில் €50,000-ஐ மிச்சப்படுத்தியது.

வன்பொருள், மின்சாரம் மற்றும் பணியாளர்களைக் கணக்கில் கொண்டு மூன்று ஆண்டுகளுக்கான மொத்த உரிமைச் செலவைக் கணக்கிட்டுள்ளேன். மாதம் 100,000 உரையாடல்களைக் கையாளும் நடுத்தர நிறுவனத்திற்கு, தனியார் AI அடுக்கு வழக்கமாக 14 மாதங்களுக்குள் நிறுவன API விலைக்கு எதிராகச் சமநிலை அடைகிறது — வெறும் சந்தா செலவுகளில் மட்டும் — இணக்க நன்மையைக் கணக்கிடும் முன்பே.

அடிக்கடி கேட்கப்படும் கேள்விகள்

தனியார் AI சாட்பாட்டை எந்த கிளவுட்டிலும் நிறுவ முடியுமா?

ஆம், தேவையான புதுப்பிப்புகள் தவிர பொது இணையத்திற்கு வெளிச்செல்லும் போக்குவரத்து இல்லாத பிரத்யேக VPC வழங்கும் வரை. Azure, AWS மற்றும் GCP அனைத்தும் தரவு பொது முதுகெலும்பில் செல்லாமல் வைக்கும் தனியார் endpoints ஆதரிக்கும் — எங்கள் வாடிக்கையாளர் வெளியீடுகள் வரையறுக்கப்படுவது அப்படித்தான்.

LLM-ஐ நானே ஹோஸ்ட் செய்தாலும் தரவு செயலாக்க ஒப்பந்தம் தேவையா?

மூன்றாம் தரப்பு DPA அல்ல, ஏனெனில் நீங்களே data controller மற்றும் processor — ஆனால் உங்களுக்கு இன்னும் செயலாக்கத்தின் உள் பதிவுகள், தக்கவைப்புக் கொள்கை மற்றும் மீதமுள்ள sub-processor-களுடன் (hosting, vector DB, observability) DPA-கள் தேவை. Self-hosting vendor-களை நீக்கும்; ஆவண வேலையை நீக்காது.

2026-இல் GDPR சாட்பாட்டுக்கான சிறந்த open மாடல் எது?

சுய-ஹோஸ்ட் தரத்தில் Llama 3 மற்றும் Mistral Large முன்னணியில் உள்ளன, Zephyr-வகை மாதிரிகள் இலகு பணிச்சுமைகளுக்குப் பயன்படுகின்றன. அடிப்படை மாதிரியை விட உறையே முக்கியம்: திருத்தம் (Presidio-பாணி), VPC தனிமைப்படுத்தல் மற்றும் தணிக்கை பதிவு ஆகியவையே இணக்கத்தைத் தீர்மானிக்கின்றன, அடிப்படை மாதிரி மட்டுமல்ல.

வெக்டர் தரவுத்தளத்திற்கு எதிராகப் பயனர்கள் நீக்குதல் உரிமைகளை எவ்வாறு பயன்படுத்துவது?

ஒரு நீக்கக் கோரிக்கை உங்கள் தக்கவைப்பு சாளரத்திற்குள் திசையன்கள், பதிவுகள் மற்றும் காப்புப்பிரதிகளைத் தீர்மானமாக அழிக்க வரைபடமாகும் வகையில், பயனர் அல்லது வாடகைதாரருக்கு உட்பொதிவுகளைப் பெயர்வெளி செய்வதன் மூலம். ஒரு ஆவணத்தைக் கூட உள்வாங்குவதற்கு முன் இதை வடிவமையுங்கள் — பகிரப்பட்ட குறியீட்டில் பயனர் வாரியாக அழிப்பைப் பின்னர் பொருத்துவதே சாட்பாட் திட்டங்களில் மிக விலையுயர்ந்த மறுவேலை.

சுகாதார அல்லது சட்டத் தரவுக்கு Azure OpenAI “போதுமான அளவு தனியாரா”?

சரியான நிபந்தனைகளின் கீழ் இருக்க முடியும்: தூண்டுதல்களின் மனித மதிப்பாய்வு இல்லை, EU தரவு இருப்பு, மற்றும் துஷ்பிரயோக-கண்காணிப்பு விலக்குகள் ஆவணப்படுத்தப்பட்ட கையொப்பமிட்ட DPA. கடுமையான பணிச்சுமைகளுக்கு எங்கள் வாடிக்கையாளர்கள் இன்னும் முழு self-hosted மாதிரிகளையே விரும்புகிறார்கள், அங்கு மூன்றாம் தரப்பு ஒருபோதும் வெற்று உரையைக் காணாது.

DG10-இல் தொடர்ந்து படியுங்கள்

• பணிமுறை தானியங்குக்கான AI ஏஜென்டுகள்
• ஒழுங்குபடுத்தப்பட்ட தொழில்களுக்கான AEO
• Perplexity SEO: AI மேற்கோள் வழிகாட்டி

இப்போது, GDPR-இணக்க சாட்பாட் வெறும் தொழில்நுட்பப் பெட்டி-டிக் பயிற்சி அல்ல என்பது தெளிவாகியிருக்கும் என்று நம்புகிறேன். இது உங்கள் வணிகத்தைப் பாதுகாக்கும், உங்கள் பயனர்களை மதிக்கும், உங்கள் AI முதலீடுகளை எதிர்கால-பாதுகாப்பு செய்யும் மூலோபாய முடிவு. DG10-இல் நான் பணியாற்றும் ஒவ்வொரு முன்னோக்கு நிறுவனமும் உண்மையான தரவுக் கட்டுப்பாடு தனியார் AI-உடன் மட்டுமே வரும் என்பதைப் புரிந்துகொண்டுள்ளது. உங்கள் பயனர்களும் — உங்கள் சட்டக் குழுவும் — நம்பக்கூடிய பாட்டை உருவாக்கத் தயாராக இருந்தால், பேசுவோம்.