GDPR-ਅਨੁਕੂਲ AI ਚੈਟਬੌਟ ਬਣਾਉਣਾ: ਪ੍ਰਾਈਵੇਟ AI ਦਾ ਮਾਮਲਾ
Image: {alt}
ਤਰੀਕਾ ਨੋਟ: ਹੇਠਾਂ ਪਲੇਟਫਾਰਮ ਦਾਅਵੇ (Llama 3, Mistral Large, Cohere Command R+, Azure OpenAI, TGI + Zephyr) ਫਰਵਰੀ ਤੋਂ ਅਗਸਤ 2026 ਤੱਕ ਵਿਕਰੇਤਾ ਦਸਤਾਵੇਜ਼ ਅਤੇ DG10 ਤੈਨਾਤੀ ਤਜਰਬੇ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ, ਸਤੰਬਰ 2026 ਵਿੱਚ ਮੁੜ-ਜਾਂਚੇ ਗਏ। ਮਾਡਲ ਸੰਸਕਰਣਾਂ ਨੂੰ ਬਦਲਦੇ ਨਿਸ਼ਾਨੇ ਸਮਝੋ ਅਤੇ ਦਸਤਖਤ ਤੋਂ ਪਹਿਲਾਂ DPAs ਅਤੇ ਡਾਟਾ-ਰਿਹਾਇਸ਼ ਸ਼ਰਤਾਂ ਪੁਸ਼ਟ ਕਰੋ।
Image: {alt}
Image: {alt}
Image: {alt}
ਜਦੋਂ ਮੈਂ ਗਾਹਕਾਂ ਲਈ AI ਚੈਟਬੌਟ ਬਣਾਉਣੇ ਸ਼ੁਰੂ ਕੀਤੇ, ਤਾਂ ਸਭ ਤੋਂ ਵੱਡੀ ਚਿੰਤਾ ਹਮੇਸ਼ਾ ਡਾਟਾ ਗੋਪਨੀਯਤਾ ਹੁੰਦੀ ਸੀ। ਤੁਸੀਂ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ ਨੂੰ ਗਾਹਕ-ਸਾਹਮਣਾ ਬੌਟ ਵਿੱਚ ਲਗਾ ਕੇ ਚੰਗੇ ਦੀ ਉਮੀਦ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਜੇ ਤੁਸੀਂ GDPR ਅਨੁਪਾਲਨ ਬਾਰੇ ਗੰਭੀਰ ਹੋ ਤਾਂ ਨਹੀਂ। ਇਸੇ ਲਈ ਮੈਂ ਆਪਣਾ ਧਿਆਨ ਇਸ ਵੱਲ ਮੋੜਿਆ ਹੈ private AI — ਅਜਿਹੇ ਮਾਡਲ ਜੋ ਤੁਹਾਡੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਉੱਤੇ ਚੱਲਦੇ ਹਨ, ਤੀਜੀਆਂ ਧਿਰਾਂ ਨੂੰ ਕਦੇ ਡੇਟਾ ਲੀਕ ਨਹੀਂ ਕਰਦੇ, ਅਤੇ ਤੁਹਾਨੂੰ ਉਪਭੋਗਤਾ ਜਾਣਕਾਰੀ ਉੱਤੇ ਪੂਰਾ ਨਿਯੰਤਰਣ ਦਿੰਦੇ ਹਨ। ਇਸ ਗਾਈਡ ਵਿੱਚ, ਮੈਂ ਤੁਹਾਨੂੰ ਦੱਸਾਂਗਾ ਕਿ private AI ਨਾਲ GDPR-ਅਨੁਕੂਲ ਚੈਟਬੋਟ ਕਿਵੇਂ ਬਣਾਇਆ ਜਾਵੇ, ਕਿਹੜੇ ਵਧੀਆ ਪਲੇਟਫਾਰਮ ਵਿਚਾਰਨੇ ਹਨ, ਅਤੇ ਤੁਹਾਡਾ ਬੋਟ ਸੁਰੱਖਿਅਤ ਤੇ ਭਰੋਸੇਯੋਗ ਰਹੇ ਇਸ ਲਈ ਸਹੀ ਕਦਮ ਕੀ ਹਨ।
ਦਾਅ ਹੁਣ ਪਹਿਲਾਂ ਨਾਲੋਂ ਵੱਧ ਹਨ। IBM ਦੀ 2023 Cost of a Data Breach ਰਿਪੋਰਟ ਅਨੁਸਾਰ, ਔਸਤ ਉਲੰਘਣਾ ਦੀ ਲਾਗਤ ਹੁਣ $4.45 ਮਿਲੀਅਨ ਹੈ, ਅਤੇ ਸਿਹਤ ਸੰਭਾਲ ਅਤੇ ਵਿੱਤ ਵਰਗੇ ਭਾਰੀ ਨਿਯੰਤ੍ਰਿਤ ਉਦਯੋਗਾਂ ਵਿੱਚ, ਇਹ ਅੰਕੜਾ $10 ਮਿਲੀਅਨ ਤੋਂ ਵੱਧ ਹੋ ਸਕਦਾ ਹੈ। ਇਸ ਦੌਰਾਨ, EU ਰੈਗੂਲੇਟਰ ਬੇਰਹਿਮ ਹੋ ਗਏ ਹਨ: ਸਿਰਫ਼ 2023 ਵਿੱਚ GDPR ਜੁਰਮਾਨੇ €2.9 ਬਿਲੀਅਨ ਤੋਂ ਵੱਧ ਗਏ (DLA Piper GDPR Fines and Data Breach Survey 2024), ਅਤੇ 2024 EU AI Act ਨਿੱਜੀ ਡੇਟਾ ਪ੍ਰੋਸੈਸ ਕਰਨ ਵਾਲੇ ਕਿਸੇ ਵੀ ਸਿਸਟਮ ਲਈ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਦੀ ਇੱਕ ਨਵੀਂ ਪਰਤ ਜੋੜਦਾ ਹੈ। ਜੇ ਤੁਹਾਡਾ ਗਾਹਕ ਚੈਟਬੋਟ ਗਲਤੀ ਕਰਦਾ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਸਿਰਫ਼ ਮਾੜੇ ਤਜ਼ਰਬੇ ਦਾ ਜੋਖਮ ਨਹੀਂ ਲੈ ਰਹੇ — ਤੁਸੀਂ ਰੈਗੂਲੇਟਰੀ ਦੁਖਾਂਤ ਦਾ ਜੋਖਮ ਲੈ ਰਹੇ ਹੋ। ਇਸੇ ਲਈ ਮੈਂ ਪ੍ਰਾਈਵੇਟ AI 'ਤੇ ਜ਼ੋਰ ਦਿੰਦਾ ਹਾਂ।
ਡੇਟਾ ਗੋਪਨੀਯਤਾ GDPR-ਅਨੁਕੂਲ ਚੈਟਬੋਟਾਂ ਦੀ ਨੀਂਹ ਕਿਉਂ ਹੈ
GDPR ਧਾਰਾ 5 ਘੱਟੋ-ਘੱਟ ਡਾਟਾ, ਉਦੇਸ਼ ਸੀਮਾ ਅਤੇ ਸਟੋਰੇਜ ਸੀਮਾ ਵਰਗੇ ਸਿਧਾਂਤ ਦੱਸਦੀ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਜਨਤਕ AI API EU ਤੋਂ ਬਾਹਰ ਅਧਿਕਾਰ-ਖੇਤਰਾਂ ਵਿੱਚ ਰਿਮੋਟ ਸਰਵਰਾਂ ਤੇ ਡਾਟਾ ਪ੍ਰੋਸੈੱਸ ਕਰਦੇ ਹਨ। ਇਹ ਪਾਲਣਾ ਦਾ ਭਿਆਨਕ ਸੁਪਨਾ ਹੈ। Cisco ਦੇ 2023 ਸਰਵੇਖਣ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ 76% ਸੰਸਥਾਵਾਂ ਕਹਿੰਦੀਆਂ ਹਨ ਕਿ ਡਾਟਾ ਗੋਪਨੀਯਤਾ AI ਅਪਣਾਉਣ ਲਈ ਚੋਟੀ ਦੀ ਤਰਜੀਹ ਹੈ (Cisco 2023 Data Privacy Benchmark Study)। ਜੇ ਤੁਹਾਡਾ ਚੈਟਬੋਟ ਨਿੱਜੀ ਡਾਟਾ—ਨਾਮ, ਈਮੇਲ, ਸਵਾਲ—ਪ੍ਰੋਸੈੱਸ ਕਰਦਾ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਕਾਨੂੰਨੀ ਆਧਾਰ ਚਾਹੀਦਾ ਹੈ, ਆਮ ਤੌਰ ਤੇ ਸਹਿਮਤੀ ਜਾਂ ਜਾਇਜ਼ ਹਿੱਤ। ਪਰ ਸਹਿਮਤੀ ਵੀ ਤੁਹਾਨੂੰ ਡਿਜ਼ਾਈਨ ਅਤੇ ਮੂਲ ਰੂਪ ਵਿੱਚ ਡਾਟਾ ਸੁਰੱਖਿਆ ਦੇ ਸਿਧਾਂਤ (ਧਾਰਾ 25) ਤੋਂ ਮੁਕਤ ਨਹੀਂ ਕਰਦੀ। ਪ੍ਰਾਈਵੇਟ AI ਹੀ ਇਸ ਦੀ ਗਾਰੰਟੀ ਦਾ ਇੱਕੋ ਤਰੀਕਾ ਹੈ।
ਆਓ ਇਸਨੂੰ ਡਾਲਰਾਂ ਵਿੱਚ ਸਮਝੀਏ। 2022 ਅਤੇ 2023 ਵਿੱਚ ਪ੍ਰਤੀ ਘਟਨਾ ਔਸਤ GDPR ਜੁਰਮਾਨਾ 40% ਵਧਿਆ, ਅਤੇ ਯੂਰਪ ਭਰ ਦੇ ਨਿਗਰਾਨ ਅਧਿਕਾਰੀ ਹੁਣ ਖਾਸ ਤੌਰ 'ਤੇ AI-ਸੰਬੰਧਿਤ ਉਲੰਘਣਾਵਾਂ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਹਨ। ਮਾਰਚ 2023 ਵਿੱਚ ChatGPT 'ਤੇ ਇਤਾਲਵੀ ਡੇਟਾ ਸੁਰੱਖਿਆ ਅਥਾਰਟੀ ਦੀ ਅਸਥਾਈ ਪਾਬੰਦੀ ਇੱਕ ਚੇਤਾਵਨੀ ਸੀ: ਸਿਰਫ਼ ਇਹ ਤੱਥ ਕਿ OpenAI ਸਾਬਤ ਨਹੀਂ ਕਰ ਸਕਿਆ ਕਿ ਉਪਭੋਗਤਾ ਡੇਟਾ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਲਈ ਨਹੀਂ ਵਰਤਿਆ ਜਾ ਰਿਹਾ ਸੀ ਅਤੇ ਕੁਝ ਪ੍ਰੋਸੈਸਿੰਗ ਲਈ ਕੋਈ ਕਾਨੂੰਨੀ ਆਧਾਰ ਨਹੀਂ ਸੀ, ਨੇ ਸਖ਼ਤ ਕਦਮ ਚੁੱਕਿਆ। ਇਸ ਨਾਲ OpenAI ਨੂੰ EU ਵਿੱਚ ਹਫ਼ਤਿਆਂ ਦੀ ਸੀਮਤ ਪਹੁੰਚ ਦਾ ਖਰਚ ਆਇਆ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਜਲਦੀ ਵਿੱਚ ਗੋਪਨੀਯਤਾ ਗਾਈਡ ਅਤੇ ਡੇਟਾ-ਪ੍ਰੋਸੈਸਿੰਗ ਫਾਰਮ ਜਾਰੀ ਕਰਨਾ ਪਿਆ। ਸਬਕ? ਗੋਪਨੀਯਤਾ ਚੁਣੌਤੀ ਕਾਰਨ ਜਨਤਕ LLM ਰਾਤੋ-ਰਾਤ ਬੰਦ ਹੋ ਸਕਦਾ ਹੈ। ਜਦੋਂ ਤੁਹਾਡਾ ਗਾਹਕ-ਸਾਹਮਣਾ ਚੈਟਬਾਟ ਬੰਦ ਹੋ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਕਾਰੋਬਾਰੀ ਨੁਕਸਾਨ ਤੁਰੰਤ ਹੁੰਦਾ ਹੈ। ਨਿੱਜੀ AI ਤੁਹਾਨੂੰ ਉਸ ਜੋਖਮ ਤੋਂ ਬਚਾਉਂਦਾ ਹੈ ਕਿਉਂਕਿ ਤੁਸੀਂ ਡੇਟਾ ਅਤੇ ਪ੍ਰੋਸੈਸਿੰਗ ਨੂੰ ਨਿਯੰਤ੍ਰਿਤ ਕਰਦੇ ਹੋ।
ਸੰਵੇਦਨਸ਼ੀਲ ਡਾਟਾ ਲਈ ਜਨਤਕ LLMs ਵਰਤਣ ਦੀਆਂ ਚੁਣੌਤੀਆਂ
When you use OpenAI's GPT-4 or Anthropic's Claude via API ਰਾਹੀਂ, ਤੁਹਾਡੇ ਪ੍ਰੋਂਪਟ ਅਤੇ ਜਵਾਬ ਉਨ੍ਹਾਂ ਦੇ ਸਰਵਰਾਂ ਨੂੰ ਭੇਜੇ ਜਾਂਦੇ ਹਨ। ਭਾਵੇਂ ਉਹ ਤੁਹਾਡੇ ਡੇਟਾ ਉੱਤੇ ਸਿਖਲਾਈ ਨਾ ਦੇਣ ਦਾ ਵਾਅਦਾ ਕਰਦੇ ਹੋਣ (2024 ਤੱਕ OpenAI ਦੀ API ਵਰਤੋਂ ਨੀਤੀ ਵਾਂਗ), ਤੀਜੀ-ਧਿਰ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਸੰਚਾਰ ਹੀ GDPR ਦੀ ਉਲੰਘਣਾ ਕਰ ਸਕਦਾ ਹੈ ਜਦੋਂ ਤੱਕ ਤੁਹਾਡੇ ਕੋਲ ਦਸਤਖਤਸ਼ੁਦਾ Data Processing Agreement (DPA) ਨਾ ਹੋਵੇ ਅਤੇ ਸਰਵਰ ਸਥਾਨ adequacy ਫੈਸਲਿਆਂ ਉੱਤੇ ਪੂਰਾ ਨਾ ਉਤਰੇ। ਤੁਸੀਂ ਡੇਟਾ ਵਿਸ਼ਾ ਪਹੁੰਚ ਬੇਨਤੀਆਂ ਅਤੇ ਮਿਟਾਉਣ ਉੱਤੇ ਵੀ ਨਿਯੰਤਰਣ ਗੁਆ ਦਿੰਦੇ ਹੋ। ਸਿਹਤ, ਵਿੱਤ ਜਾਂ ਕਾਨੂੰਨੀ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ, public LLM ਅਕਸਰ ਸੀਮਾ ਤੋਂ ਬਾਹਰ ਹਨ।
Real-world example: 2023 ਵਿੱਚ, Samsung ਕਰਮਚਾਰੀਆਂ ਨੇ ਗ਼ਲਤੀ ਨਾਲ ChatGPT ਰਾਹੀਂ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਲੀਕ ਕਰ ਦਿੱਤਾ (ਸਰੋਤ: The Economist)। ਇਸੇ ਲਈ ਕੰਪਨੀਆਂ private AI ਨਾਲ ਚੱਲਣ ਵਾਲੇ ਸੁਰੱਖਿਅਤ ਚੈਟਬੋਟ ਲਗਾਉਣ ਲਈ ਦੌੜ ਰਹੀਆਂ ਹਨ।
Samsung ਘਟਨਾ ਤੋਂ ਅੱਗੇ, ਕੇਂਦਰੀਕ੍ਰਿਤ ਕਲਾਊਡ AI ਪ੍ਰਦਾਤਾ 'ਤੇ ਨਿਰਭਰਤਾ ਦੀ ਪ੍ਰਣਾਲੀਗਤ ਕਮੀ ਹੈ। ਜਦੋਂ ਉਪਭੋਗਤਾ ਡਾਟਾ ਮਿਟਾਉਣ ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਡਾਟਾ ਲੱਭਣ ਅਤੇ ਸਾਫ਼ ਕਰਨ ਲਈ ਪ੍ਰਦਾਤਾ ਦੇ ਸਾਧਨਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਨਾ ਪੈਂਦਾ ਹੈ — ਜੇ ਉਹ ਪ੍ਰਤੀ-ਪ੍ਰੋਂਪਟ ਮਿਟਾਉਣ ਦੀ ਸਹੂਲਤ ਦਿੰਦੇ ਵੀ ਹਨ। GDPR ਦਾ Article 17 ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਮਿਟਾਉਣ ਦਾ ਪੂਰਨ ਅਧਿਕਾਰ ਦਿੰਦਾ ਹੈ ਜਦੋਂ ਡਾਟਾ ਲੋੜੀਂਦਾ ਨਾ ਰਹੇ। ਆਪਣੇ ਖੁਦ ਦੇ Kubernetes ਕਲੱਸਟਰ 'ਤੇ ਚੱਲਦੇ ਪ੍ਰਾਈਵੇਟ AI ਸਿਸਟਮ ਨਾਲ, ਤੁਸੀਂ ਬੈਕਐਂਡ ਲੌਗ ਅਤੇ ਏੰਬੈਡਿੰਗ ਰੀਅਲ ਟਾਈਮ ਵਿੱਚ ਮਿਟਾ ਸਕਦੇ ਹੋ, ਨਿਗਰਾਨੀ ਅਥਾਰਟੀ ਲਈ ਸਾਫ਼ ਦਸਤਾਵੇਜ਼ ਬਣਾਉਂਦੇ ਹੋਏ। ਉਹੀ ਭਰੋਸਾ ਨਹੀਂ ਮਿਲਦਾ ਜਦੋਂ ਤੁਹਾਡਾ ਡਾਟਾ ਹਾਈਪਰਸਕੇਲਰ ਦੀਆਂ ਕੈਸ਼ਿੰਗ ਪਰਤਾਂ ਵਿੱਚ ਖਿੰਡਿਆ ਹੋਵੇ।
ਪ੍ਰਾਈਵੇਟ AI ਕੀ ਹੈ ਅਤੇ ਇਹ ਸੁਰੱਖਿਅਤ ਚੈਟਬੌਟ ਕਿਵੇਂ ਸਮਰੱਥ ਬਣਾਉਂਦਾ ਹੈ?
ਪ੍ਰਾਈਵੇਟ AI ਉਨ੍ਹਾਂ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਮਾਡਲਾਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਜੋ ਤੁਹਾਡੇ ਆਪਣੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ 'ਤੇ ਹੋਸਟ ਅਤੇ ਚਲਾਏ ਜਾਂਦੇ ਹਨ — ਔਨ-ਪ੍ਰੇਮਿਸਜ਼, ਤੁਹਾਡੇ ਪ੍ਰਾਈਵੇਟ ਕਲਾਊਡ ਵਿੱਚ, ਜਾਂ ਤੁਹਾਡੇ ਨੈੱਟਵਰਕ ਤੋਂ ਬਾਹਰ ਬਿਨਾਂ ਡੇਟਾ ਜਾਏ ਸਮਰਪਿਤ ਵਰਚੁਅਲ ਪ੍ਰਾਈਵੇਟ ਕਲਾਊਡ (VPC) ਵਿੱਚ। ਇਸ ਵਿੱਚ Llama 3, Mistral, ਅਤੇ Falcon ਵਰਗੇ ਓਪਨ-ਸੋਰਸ ਮਾਡਲ ਸ਼ਾਮਲ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਤੁਸੀਂ ਖੁਦ ਫਾਈਨ-ਟਿਊਨ ਅਤੇ ਤੈਨਾਤ ਕਰ ਸਕਦੇ ਹੋ, ਜਾਂ ਅਲੱਗ-ਥਲੱਗ ਇੰਸਟੈਂਸ ਪੇਸ਼ ਕਰਨ ਵਾਲੀਆਂ ਪ੍ਰਬੰਧਿਤ ਸੇਵਾਵਾਂ (ਜਿਵੇਂ Azure OpenAI ਡਾਟਾ ਰੈਜ਼ੀਡੈਂਸੀ ਗਾਰੰਟੀਆਂ ਨਾਲ)।
ਨਿੱਜੀ AI ਨਾਲ ਬਣਾਏ ਗਏ ਸੁਰੱਖਿਅਤ ਚੈਟਬੋਟ ਦਾ ਮਤਲਬ ਹੈ:
- ਸਾਰਾ ਗੱਲਬਾਤ ਡੇਟਾ ਤੁਹਾਡੇ ਨਿਯੰਤਰਿਤ ਮਾਹੌਲ ਵਿੱਚ ਹੀ ਰਹਿੰਦਾ ਹੈ।
- ਤੁਸੀਂ ਮੰਗ ਉੱਤੇ ਡੇਟਾ ਨੂੰ ਗੁਮਨਾਮ, ਐਨਕ੍ਰਿਪਟ ਅਤੇ ਮਿਟਾ ਸਕਦੇ ਹੋ।
- ਤੁਸੀਂ ਪਾਲਣਾ ਲਈ ਹਰ ਪ੍ਰੋਂਪਟ ਅਤੇ ਜਵਾਬ ਦਾ ਆਡਿਟ ਕਰ ਸਕਦੇ ਹੋ।
- ਤੁਸੀਂ ਮਲਕੀਅਤੀ ਜਾਣਕਾਰੀ ਨੂੰ ਉਜਾਗਰ ਕੀਤੇ ਬਿਨਾਂ ਮਾਡਲਾਂ ਨੂੰ ਫਾਈਨ-ਟਿਊਨ ਕਰ ਸਕਦੇ ਹੋ।
ਸੁਰੱਖਿਅਤ ਚੈਟਬਾਟ ਆਰਕੀਟੈਕਚਰ ਦੇ ਮੁੱਖ ਹਿੱਸੇ
- ਸਥਾਨਕ ਜਾਂ VPC-ਹੋਸਟਿਡ LLM — Llama 3 70B, Mistral Large ਵਰਗੇ ਮਾਡਲ ਵਰਤੋਂ, ਜਾਂ Cohere ਤੁਹਾਡੇ ਆਪਣੇ ਕਲਾਊਡ ਵਿੱਚ Command R+।
- RAG ਲਈ ਵੈਕਟਰ ਡਾਟਾਬੇਸ — ਐਂਬੈਡਿੰਗਾਂ ਨੂੰ ਸਟੋਰ ਕਰੋ Weaviate or Pinecone (VPC ਦੇ ਨਾਲ)। ਯਕੀਨੀ ਬਣਾਓ ਕਿ ਕੋਈ ਡੇਟਾ ਤੁਹਾਡੇ ਨੈੱਟਵਰਕ ਤੋਂ ਬਾਹਰ ਨਾ ਜਾਵੇ।
- ਡਾਟਾ ਪ੍ਰੀਪ੍ਰੋਸੈਸਿੰਗ ਪਾਈਪਲਾਈਨ — Strip PII using Microsoft Presidio before embedding.
- Access control — ਅਣਅਧਿਕਾਰਤ ਪੁੱਛਗਿੱਛਾਂ ਨੂੰ ਰੋਕਣ ਲਈ ਪ੍ਰਮਾਣੀਕਰਨ ਅਤੇ ਅਧਿਕਾਰ।
- ਲੌਗਿੰਗ ਅਤੇ ਆਡਿਟਿੰਗ — ਗੱਲਬਾਤ ਰਿਕਾਰਡ ਕਰੋ ਪਰ ਲੌਗ ਇਨਕ੍ਰਿਪਟ ਕਰੋ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਅਲੱਗ, ਸਮਾਂ-ਸੀਮਤ ਵਾਲਟ ਵਿੱਚ ਰੱਖੋ।
- ਤਹਿ ਕੀਤੀ ਡੇਟਾ ਸਫਾਈ — ਤੁਹਾਡੀ ਰਿਟੈਂਸ਼ਨ ਨੀਤੀ ਦੁਆਰਾ ਨਿਰਧਾਰਤ ਸਮੇਂ ਤੋਂ ਪੁਰਾਣੇ ਉਪਭੋਗਤਾ ਡਾਟੇ ਨੂੰ ਆਪ ਹੀ ਮਿਟਾਉਣਾ।
- ਪਾਰਦਰਸ਼ੀ ਸਹਿਮਤੀ ਪ੍ਰਬੰਧਨ — ਇੱਕ ਸਹਿਮਤੀ ਗੇਟਵੇ ਜੋ ਪਹਿਲੀ ਗੱਲਬਾਤ ਤੋਂ ਪਹਿਲਾਂ ਵਿਸਤ੍ਰਿਤ ਉਪਭੋਗਤਾ ਸਹਿਮਤੀ ਹਾਸਲ ਕਰਕੇ ਸਟੋਰ ਕਰਦਾ ਹੈ।
ਪਰ ਸਿਰਫ਼ ਆਰਕੀਟੈਕਚਰ ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ। ਅਸਲ ਜਾਦੂ ਉਦੋਂ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਤੁਸੀਂ ਇਨ੍ਹਾਂ ਹਿੱਸਿਆਂ ਨੂੰ ਗਵਰਨੈਂਸ ਫ਼ਰੇਮਵਰਕ ਨਾਲ ਜੋੜਦੇ ਹੋ। ਹਰ ਹਫ਼ਤੇ ਮੈਂ ਆਪਣੇ ਗਾਹਕਾਂ ਨਾਲ ਬੈਠ ਕੇ ਬਿਲਕੁਲ ਨਕਸ਼ਾ ਬਣਾਉਂਦਾ ਹਾਂ ਕਿ ਹਰ ਡਾਟਾ ਪੁਆਇੰਟ ਕਿੱਥੇ ਵਹਿੰਦਾ ਹੈ, ਕਿੰਨਾ ਚਿਰ ਰਹਿੰਦਾ ਹੈ, ਅਤੇ ਕੌਣ ਇਸਨੂੰ ਦੇਖ ਸਕਦਾ ਹੈ। ਇਹੀ ਪ੍ਰਕਿਰਿਆ ਇੱਕ ਜੁਰਮਾਨਾਯੋਗ ਬੋਟ ਨੂੰ ਬੁਲੇਟਪਰੂਫ਼ ਬੋਟ ਤੋਂ ਵੱਖ ਕਰਦੀ ਹੈ।
2026 ਵਿੱਚ GDPR-ਅਨੁਕੂਲ ਚੈਟਬੌਟਾਂ ਲਈ ਸਭ ਤੋਂ ਵਧੀਆ ਪ੍ਰਾਈਵੇਟ AI ਪਲੇਟਫਾਰਮ
ਪਿਛਲੇ ਦੋ ਸਾਲਾਂ ਵਿੱਚ, ਮੈਂ ਦਰਜਨਾਂ ਪਲੇਟਫਾਰਮਾਂ ਦੀ ਸਟ੍ਰੈੱਸ-ਟੈਸਟਿੰਗ ਕੀਤੀ ਹੈ। ਇੱਥੇ ਉਹ ਹਨ ਜੋ ਡੇਟਾ ਨੂੰ ਸੱਚਮੁੱਚ ਨਿੱਜੀ ਰੱਖਦੇ ਹਨ ਅਤੇ ਚੈਟਬੌਟ ਸਟੈਕਾਂ ਨਾਲ ਸੁਚਾਰੂ ਢੰਗ ਨਾਲ ਜੁੜਦੇ ਹਨ।
| Platform | Hosting Model | Key Privacy Feature | Ideal For |
|---|---|---|---|
| Llama 3 (Meta) | Ollama, vLLM, ਜਾਂ TGI ਰਾਹੀਂ ਸਵੈ-ਹੋਸਟਡ | ਕੋਈ ਵੀ ਡਾਟਾ ਤੁਹਾਡੇ ਨੈੱਟਵਰਕ ਤੋਂ ਬਾਹਰ ਨਹੀਂ ਜਾਂਦਾ | ਮਜ਼ਬੂਤ DevOps ਟੀਮਾਂ ਵਾਲੀਆਂ ਸੰਸਥਾਵਾਂ |
| Mistral Large | ਸਵੈ-ਹੋਸਟਡ ਜਾਂ Azure ਰਾਹੀਂ (ਨਿੱਜੀ ਐਂਡਪੁਆਇੰਟ) | ਸੋਵਰਿਨ ਕਲਾਊਡ ਵਿਕਲਪ, ਕੋਈ API-ਡੇਟਾ ਰਿਟੈਂਸ਼ਨ ਨਹੀਂ | ਰੈਜ਼ੀਡੈਂਸੀ ਗਾਰੰਟੀ ਚਾਹੁਣ ਵਾਲੇ ਯੂਰਪੀ ਉੱਦਮ |
| Cohere Command R+ | AWS / GCP ਰਾਹੀਂ ਸਮਰਪਿਤ VPC | ਗਾਰੰਟੀਸ਼ੁਦਾ ਡੇਟਾ ਅਲੱਗਤਾ + DPA | SLA-ਸਮਰਥਿਤ ਅਪਟਾਈਮ ਅਤੇ ਗੋਪਨੀਯਤਾ ਚਾਹੁਣ ਵਾਲੀਆਂ ਟੀਮਾਂ |
| Azure OpenAI Service | Azure ਪ੍ਰਾਈਵੇਟ ਐਂਡਪੁਆਇੰਟ | ਪ੍ਰੋਂਪਟ ਅਤੇ ਪੂਰਤੀਆਂ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਨਹੀਂ ਵਰਤੀਆਂ ਜਾਂਦੀਆਂ, EU ਡੇਟਾ ਸੀਮਾ | Microsoft-ਕੇਂਦਰਿਤ ਸੰਸਥਾਵਾਂ ਜਿਨ੍ਹਾਂ ਕੋਲ ਮੌਜੂਦਾ ਕੰਪਲਾਇੰਸ ਸਟੈਕ ਹਨ |
| Hugging Face TGI + Zephyr | ਤੁਹਾਡਾ ਆਪਣਾ GPU ਕਲੱਸਟਰ | ਪੂਰਾ ਓਪਨ-ਸੋਰਸ; ਜ਼ੀਰੋ ਬਾਹਰੀ ਨਿਰਭਰਤਾਵਾਂ | ਤੰਗ ਬਜਟ ਵਾਲੇ ਸਟਾਰਟਅੱਪ ਅਤੇ ਪ੍ਰੋਜੈਕਟ ਜੋ ਵੈਂਡਰ ਲਾਕ-ਇਨ ਦਾ ਜੋਖਮ ਨਹੀਂ ਲੈ ਸਕਦੇ |
ਕੁਝ ਮਹੀਨੇ ਪਹਿਲਾਂ ਮੈਂ ਇੱਕ ਫਿਨਟੈਕ ਗਾਹਕ ਨੂੰ ਆਮ OpenAI ਐਂਡਪਾਇੰਟ ਤੋਂ AWS VPC ਦੇ ਅੰਦਰ ਨਿੱਜੀ Mistral Large ਤਾਇਨਾਤੀ 'ਤੇ ਮਾਈਗ੍ਰੇਟ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕੀਤੀ। ਉਨ੍ਹਾਂ ਦੇ ਪਾਲਣਾ ਅਧਿਕਾਰੀ ਨੇ ਮੈਨੂੰ ਦੱਸਿਆ ਕਿ ਇਹ ਪਹਿਲੀ ਵਾਰ ਸੀ ਜਦੋਂ ਉਨ੍ਹਾਂ ਨੇ ਡਾਟਾ ਲੀਕੇਜ ਨਾਲ ਸਬੰਧਤ ਇੱਕ ਵੀ ਨੁਕਸ ਤੋਂ ਬਿਨਾਂ ਪੈਨੀਟ੍ਰੇਸ਼ਨ ਟੈਸਟ ਪਾਸ ਕੀਤਾ ਸੀ। ਨਿੱਜੀ AI ਇਸ ਤਰ੍ਹਾਂ ਦੀ ਜਿੱਤ ਦਿੰਦਾ ਹੈ।
ਸਟੈਪ-ਬਾਈ-ਸਟੈਪ: Private AI ਨਾਲ GDPR-ਅਨੁਕੂਲ ਚੈਟਬਾਟ ਕਿਵੇਂ ਬਣਾਈਏ
ਮੈਂ ਬਿਲਕੁਲ ਉਹ ਪ੍ਰਕਿਰਿਆ ਸਮਝਾਵਾਂਗਾ ਜਿਸਦੀ ਮੇਰੀ DG10 ਟੀਮ ਪਾਲਣਾ ਕਰਦੀ ਹੈ। ਟੀਚਾ ਇੱਕ ਚੈਟਬੋਟ ਦੇਣਾ ਹੈ ਜੋ ਨਾ ਸਿਰਫ਼ ਸਹੀ ਜਵਾਬ ਦੇਵੇ ਬਲਕਿ ਹਰ GDPR ਅਧਿਕਾਰ ਦਾ ਸਨਮਾਨ ਵੀ ਕਰੇ।
1. ਪਹਿਲਾਂ ਡੇਟਾ ਫੁੱਟਪ੍ਰਿੰਟ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ।
ਕੋਈ ਵੀ GPU ਚਾਲੂ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ, ਮੈਂ PII ਦੇ ਹਰ ਟੁਕੜੇ ਦਾ ਨਕਸ਼ਾ ਬਣਾਉਂਦਾ ਹਾਂ ਜਿਸਨੂੰ ਬੋਟ ਛੂਹ ਸਕਦਾ ਹੈ — ਨਾਮ, ਈਮੇਲ, IP ਪਤਾ, ਸਥਾਨ, ਇੱਥੋਂ ਤੱਕ ਕਿ ਆਵਾਜ਼ ਦਾ ਲਹਿਜਾ ਜੇ ਇਹ ਗੱਲਬਾਤ ਵਾਲਾ ਹੈ। ਫਿਰ ਮੈਂ ਫੈਸਲਾ ਕਰਦਾ ਹਾਂ ਕਿ ਸਖ਼ਤੀ ਨਾਲ ਕੀ ਜ਼ਰੂਰੀ ਹੈ। ਧਾਰਾ 5(1)(c) ਅਧੀਨ, ਤੁਹਾਨੂੰ ਡੇਟਾ ਘੱਟ ਤੋਂ ਘੱਟ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ। ਈ-ਕਾਮਰਸ ਰਿਟਰਨ ਬੋਟ ਲਈ, ਸ਼ਾਇਦ ਸਿਰਫ਼ ਆਰਡਰ ਨੰਬਰ ਅਤੇ ਸਮੱਸਿਆ ਦਾ ਵੇਰਵਾ। ਗਾਹਕ ਦੇ ਪੂਰੇ ਨਾਮ ਦੀ ਲੋੜ ਨਹੀਂ।
2. ਆਪਣਾ ਪ੍ਰਾਈਵੇਟ LLM ਚੁਣੋ ਅਤੇ ਤੈਨਾਤ ਕਰੋ।
ਅਸੀਂ ਆਮ ਤੌਰ 'ਤੇ ਇਸ 'ਤੇ ਇੱਕ ਕੰਟੇਨਰਾਈਜ਼ਡ ਮਾਡਲ ਨਾਲ ਸ਼ੁਰੂ ਕਰਦੇ ਹਾਂ Ollama ਪ੍ਰੂਫ-ਆਫ-ਕਾਂਸੈਪਟ ਲਈ, ਫਿਰ ਇਸ ਵੱਲ ਵਧੋ vLLM ਪ੍ਰੋਡਕਸ਼ਨ ਲਈ ਸਮਰਪਿਤ GPU ਨੋਡ ਉੱਤੇ। ਮੁੱਖ ਗੱਲ: API ਐਂਡਪੌਇੰਟ ਰਿਵਰਸ ਪ੍ਰੌਕਸੀ ਦੇ ਪਿੱਛੇ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜਿਸ ਤੱਕ ਸਿਰਫ਼ ਤੁਹਾਡਾ ਚੈਟਬੌਟ ਬੈਕਐਂਡ ਪਹੁੰਚ ਸਕੇ — ਇੰਟਰਨੈੱਟ ਤੋਂ ਸਿੱਧੀ ਪਹੁੰਚ ਨਹੀਂ ਹੋਣੀ ਚਾਹੀਦੀ।
3. ਲੋਕਲ ਵੈਕਟਰ ਸਟੋਰ ਸੈੱਟਅੱਪ ਕਰੋ।
ਜੇ ਚੈਟਬੋਟ ਨੂੰ ਗਿਆਨ ਅਧਾਰ ਪ੍ਰਾਪਤੀ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ ਮੈਂ ਵਰਤਦਾ ਹਾਂ Weaviate ਇੱਕ VPC ਵਿੱਚ, client‑side ਇਨਕ੍ਰਿਪਸ਼ਨ ਅਤੇ ਸਖ਼ਤ ਰਿਟੈਂਸ਼ਨ ਨੀਤੀ ਨਾਲ ਸੰਰਚਿਤ। ਉਸ VPC ਤੋਂ ਬਾਹਰ ਕੋਈ ਵੀ ਏਮਬੈਡਿੰਗ ਡਾਟਾ ਕਦੇ ਡਿਸਕ ’ਤੇ ਨਹੀਂ ਲਿਖਿਆ ਜਾਂਦਾ। ਵਾਧੂ ਗੋਪਨੀਯਤਾ ਲਈ, ਮੈਂ ਲਾਗੂ ਕਰਦਾ ਹਾਂ Microsoft Presidio ਏਮਬੈਡਿੰਗ ਬਣਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਅਗਿਆਤਕਰਨ — ਨਾਵਾਂ ਨੂੰ [PERSON] ਵਰਗੇ ਪਲੇਸਹੋਲਡਰਾਂ ਨਾਲ ਬਦਲਣਾ।
4. ਸਹਿਮਤੀ ਆਰਕੈਸਟ੍ਰੇਸ਼ਨ ਪਰਤ ਬਣਾਓ।
ਇਹ ਅਕਸਰ ਖੁੰਝ ਜਾਂਦਾ ਹੈ। ਮੈਂ ਇੱਕ ਹਲਕਾ ਸਹਿਮਤੀ API ਜੋੜਦਾ ਹਾਂ ਜੋ ਟਾਈਮਸਟੈਂਪਾਂ ਨਾਲ ਬਿਲਕੁਲ ਰਿਕਾਰਡ ਕਰਦਾ ਹੈ ਕਿ ਉਪਭੋਗਤਾ ਕਿਸ ਗੱਲ ਨਾਲ ਸਹਿਮਤ ਹੋਇਆ, ਅਤੇ IP-ਪਤਾ ਸਕ੍ਰਬ ਕੀਤਾ ਜਾਂਦਾ ਹੈ (ਤੁਸੀਂ ਗੈਰ-ਮੁਨਕਰੀ ਲਈ ਹੈਸ਼ਡ ਸੰਸਕਰਣ ਰੱਖਦੇ ਹੋ)। ਚੈਟਬੋਟ ਸਿਰਫ਼ ਤਦ ਹੀ ਅੱਗੇ ਵਧਦਾ ਹੈ ਜੇ ਦਸਤਖਤ ਕੀਤਾ ਸਹਿਮਤੀ ਟੋਕਨ ਮੌਜੂਦ ਹੋਵੇ। ਉਹ ਸਹਿਮਤੀ ਟੋਕਨ ਹਰ 30 ਦਿਨਾਂ ਵਿੱਚ ਮਿਆਦ ਪੂਰੀ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਤਾਜ਼ਾ ਕਰਨਾ ਲਾਜ਼ਮੀ ਹੁੰਦਾ ਹੈ — ਇੱਕ ਅਭਿਆਸ ਜਿਸਦੀ ਕਈ EU DPA ਨੇ ਪ੍ਰਸ਼ੰਸਾ ਕੀਤੀ ਹੈ।
5. ਗਤੀਸ਼ੀਲ ਡੇਟਾ ਸਕ੍ਰਬਿੰਗ ਲਾਗੂ ਕਰੋ।
ਸਾਰਾ ਡੇਟਾ ਇੱਕੋ ਜਿਹਾ ਨਹੀਂ ਹੁੰਦਾ। ਮੈਂ ਕਰੌਨ ਜੌਬ ਲਿਖਦਾ ਹਾਂ ਜੋ 24 ਘੰਟਿਆਂ ਬਾਅਦ ਗੱਲਬਾਤ ਲੌਗ ਮਿਟਾ ਦਿੰਦੇ ਹਨ ਜਾਂ ਐਨਾਲਿਟਿਕਸ ਲਈ ਲੋੜ ਹੋਵੇ ਤਾਂ ਉਨ੍ਹਾਂ ਨੂੰ ਗੁਮਨਾਮ ਵਜੋਂ ਚਿੰਨ੍ਹਿਤ ਕਰਦੇ ਹਨ। ਕਿਸੇ ਵੀ ਡੇਟਾ ਵਿਸ਼ਾ ਪਹੁੰਚ ਬੇਨਤੀ ਲਈ, ਸਿਸਟਮ ਆਪਣੇ ਆਪ ਉਪਭੋਗਤਾ ਦਾ ਪੂਰਾ ਚੈਟ ਇਤਿਹਾਸ 72 ਘੰਟਿਆਂ ਦੇ ਅੰਦਰ ਕੱਢਦਾ, ਡਾਊਨਲੋਡ ਕਰਦਾ ਅਤੇ ਫਿਰ ਮਿਟਾ ਦਿੰਦਾ ਹੈ — GDPR ਦੀ ਇੱਕ-ਮਹੀਨੇ ਦੀ ਸਮਾਂ-ਸੀਮਾ ਤੋਂ ਕਿਤੇ ਪਹਿਲਾਂ।
6. ਆਡਿਟ-ਤਿਆਰ ਲੌਗਿੰਗ।
ਹਰ ਪ੍ਰੋਂਪਟ ਅਤੇ ਜਵਾਬ ਐਨਕ੍ਰਿਪਟਡ ਰੂਪ ਵਿੱਚ ਲੌਗ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਪਰ ਮੈਂ ਲੌਗਾਂ ਤੋਂ PII ਪੂਰੀ ਤਰ੍ਹਾਂ ਹਟਾ ਦਿੰਦਾ ਹਾਂ — ਕੋਈ ਨਾਮ ਨਹੀਂ, ਕੋਈ ਈਮੇਲ ਪਤੇ ਨਹੀਂ। ਲੌਗ “ਕੀ ਗਲਤ ਹੋਇਆ?” ਦਾ ਜਵਾਬ ਦਿੰਦੇ ਹਨ ਪਰ “ਕਿਸਨੇ ਕੀ ਕਿਹਾ?” ਦਾ ਨਹੀਂ। ਇਸ ਤਰ੍ਹਾਂ, ਜੇ ਕੋਈ ਰੈਗੂਲੇਟਰ ਲੌਗ ਮੰਗਦਾ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਨਿੱਜੀ ਡੇਟਾ ਨਹੀਂ ਸੌਂਪ ਰਹੇ ਹੋ।
ਇਸ ਪ੍ਰਕਿਰਿਆ ਦੇ ਅੰਤ ਤੱਕ, ਤੁਹਾਡੇ ਕੋਲ ਇੱਕ ਚੈਟਬੋਟ ਹੋਵੇਗਾ ਜੋ ਤੁਸੀਂ ਭਰੋਸੇ ਨਾਲ ਆਪਣੇ ਡਾਟਾ ਸੁਰੱਖਿਆ ਅਧਿਕਾਰੀ ਨੂੰ ਦਿਖਾ ਸਕਦੇ ਹੋ। ਇਹ ਭਰੋਸਾ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। ਮੈਂ ਅਜਿਹੀਆਂ ਕਾਲਾਂ 'ਤੇ ਰਿਹਾ ਹਾਂ ਜਿੱਥੇ DPO ਨੇ ਸਾਡੇ ਡਾਟਾ ਪ੍ਰਵਾਹ ਬਾਰੇ ਪੰਜ ਸਵਾਲ ਪੁੱਛੇ; ਅਸੀਂ ਉਨ੍ਹਾਂ ਸਭ ਦਾ ਜਵਾਬ ਸਕਿੰਟਾਂ ਵਿੱਚ ਦੇ ਦਿੱਤਾ ਕਿਉਂਕਿ ਡਿਜ਼ਾਈਨ ਸੁਭਾਵਿਕ ਤੌਰ 'ਤੇ ਪਾਰਦਰਸ਼ੀ ਸੀ।
ਅਮਲ ਵਿੱਚ ਪ੍ਰਾਈਵੇਟ AI ਦੇ ਅਸਲ-ਦੁਨੀਆ ਕੇਸ ਸਟੱਡੀਜ਼
ਕੇਸ 1: ਯੂਰਪੀ ਬੈਂਕ – ਗਾਹਕ ਸਹਾਇਤਾ ਬੋਟ
ਇੱਕ ਵੱਡਾ ਜਰਮਨ ਬੈਂਕ HR ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਲਈ ਇੱਕ ਅੰਦਰੂਨੀ ਬੋਟ ਚਾਹੁੰਦਾ ਸੀ। ਪਬਲਿਕ ਕਲਾਊਡ LLM ਸਖ਼ਤ ਮਨ੍ਹਾ ਸਨ। ਅਸੀਂ NVIDIA Triton ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਫਾਈਨ-ਟਿਊਨਡ Mistral 7B ਨੂੰ ਆਨ-ਪ੍ਰੇਮਾਇਸਜ਼ ਤਾਇਨਾਤ ਕੀਤਾ। ਸਾਰਾ ਡੇਟਾ ਉਨ੍ਹਾਂ ਦੇ ਡੇਟਾ ਸੈਂਟਰ ਦੇ ਅੰਦਰ ਹੀ ਰਿਹਾ। ਤਿੰਨ ਮਹੀਨਿਆਂ ਦੇ ਅੰਦਰ, ਬੋਟ ਨੇ 40% HR ਟਿਕਟਾਂ ਸੰਭਾਲ ਲਈਆਂ, ਅਤੇ ਬੈਂਕ ਦੀ ਡੇਟਾ ਸੁਰੱਖਿਆ ਟੀਮ ਨੇ ਮਨਜ਼ੂਰੀ ਦੇ ਦਿੱਤੀ ਕਿਉਂਕਿ ਪੂਰੀ ਲੜੀ ਆਡਿਟਯੋਗ ਸੀ। ਉਨ੍ਹਾਂ ਨੇ ਹਾਰਡਵੇਅਰ ਸੁਰੱਖਿਆ ਮੋਡਿਊਲ (HSM) ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਜੋੜਨ ਤੋਂ ਬਾਅਦ ਇਸਨੂੰ ਗਾਹਕ ਪਛਾਣ ਤਸਦੀਕ ਜਵਾਬਾਂ ਨੂੰ ਸੰਭਾਲਣ ਲਈ ਵੀ ਵਧਾ ਦਿੱਤਾ।
ਕੇਸ 2: ਹੈਲਥ-ਟੈੱਕ ਸਟਾਰਟਅੱਪ – ਮਰੀਜ਼ ਟ੍ਰਾਈਏਜ ਸਹਾਇਕ
ਗਾਹਕ ਨੂੰ ਇੱਕ ਲੱਛਣ ਜਾਂਚਕਰਤਾ ਚਾਹੀਦਾ ਸੀ ਜੋ GDPR ਧਾਰਾ 9 ਅਧੀਨ ਵਿਸ਼ੇਸ਼-ਸ਼੍ਰੇਣੀ ਡੇਟਾ ਨੂੰ ਸੰਭਾਲਦਾ ਹੋਵੇ। ਅਸੀਂ ਡਾਕਟਰੀ ਡੇਟਾਸੈੱਟਾਂ 'ਤੇ ਫਾਈਨ-ਟਿਊਨ ਕੀਤੇ Llama 3 8B ਨਾਲ ਇੱਕ ਪ੍ਰਾਈਵੇਟ AI ਸਟੈਕ ਵਰਤਿਆ, ਜੋ ਏਅਰ-ਗੈਪਡ Kubernetes ਕਲੱਸਟਰ ਵਿੱਚ ਹੋਸਟ ਕੀਤਾ ਗਿਆ ਸੀ। ਸਾਰੇ PII ਨੂੰ ਗ੍ਰਹਿਣ ਸਮੇਂ ਹੀ ਛਦਮ-ਨਾਮ ਦਿੱਤਾ ਗਿਆ ਸੀ। ਸਟਾਰਟਅੱਪ ਨੇ ਰਿਕਾਰਡ ਸਮੇਂ ਵਿੱਚ ISO 27001 ਪ੍ਰਮਾਣੀਕਰਣ ਪ੍ਰਾਪਤ ਕੀਤਾ, ਅੰਸ਼ਕ ਤੌਰ 'ਤੇ ਕਿਉਂਕਿ ਪ੍ਰਾਈਵੇਟ AI ਸੈੱਟਅੱਪ ਨੇ ਜੋਖਮ ਮੁਲਾਂਕਣਾਂ ਨੂੰ ਸਿੱਧਾ ਬਣਾ ਦਿੱਤਾ ਸੀ।
ਕੇਸ 3: ਕਾਨੂੰਨੀ ਫ਼ਰਮ – ਠੇਕਾ ਵਿਸ਼ਲੇਸ਼ਣ ਬੋਟ
UK-ਅਧਾਰਿਤ ਇੱਕ ਕਾਨੂੰਨੀ ਫਰਮ ਰੋਜ਼ਾਨਾ ਹਜ਼ਾਰਾਂ ਠੇਕਿਆਂ ਦੀ ਪ੍ਰਕਿਰਿਆ ਕਰਦੀ ਸੀ। ਉਨ੍ਹਾਂ ਦਾ ਮੌਜੂਦਾ ਹੱਲ ਤੀਜੀ-ਧਿਰ NLP API ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਸੀ, ਜਿਸ ਨਾਲ ਗਾਹਕ-ਵਕੀਲ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਨੂੰ ਖ਼ਤਰਾ ਸੀ। ਅਸੀਂ ਕਸਟਮ BERT ਮਾਡਲ ਅਤੇ LangChain ਨਾਲ ਇੱਕ ਪ੍ਰਾਈਵੇਟ AI ਸਿਸਟਮ ਬਣਾਇਆ, ਸਭ ਆਨ-ਪ੍ਰੇਮ। ਇਹ ਸਿਸਟਮ ਕਦੇ ਇੰਟਰਨੈੱਟ ਨਾਲ ਨਹੀਂ ਜੁੜਦਾ। ਫਰਮ ਹੁਣ 3x ਤੇਜ਼ੀ ਨਾਲ ਡਿਊ ਡਿਲੀਜੈਂਸ ਕਰਦੀ ਹੈ, ਅਤੇ ਡੇਟਾ ਦਾ ਹਰ ਟੁਕੜਾ ਵਕੀਲ-ਗਾਹਕ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਅਧੀਨ ਹੈ ਕਿਉਂਕਿ ਇਹ ਕਦੇ ਉਨ੍ਹਾਂ ਦੇ ਸੁਰੱਖਿਅਤ ਨੈੱਟਵਰਕ ਤੋਂ ਬਾਹਰ ਨਹੀਂ ਗਿਆ।
ਇਹ ਕਲਪਨਾਵਾਂ ਨਹੀਂ ਹਨ। ਮੈਂ ਖੁਦ ਦੇਖਿਆ ਹੈ ਕਿ ਪ੍ਰਾਈਵੇਟ AI ਪਾਲਣਾ ਦੇ ਲਾਲ ਝੰਡੇ ਨੂੰ ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਵੱਖਰਾਪਨ ਵਿੱਚ ਕਿਵੇਂ ਬਦਲਦਾ ਹੈ। ਗਾਹਕ ਅਕਸਰ ਮੈਨੂੰ ਦੱਸਦੇ ਹਨ ਕਿ ਉਹ ਸੌਦੇ ਇਸ ਲਈ ਜਿੱਤਦੇ ਹਨ ਕਿਉਂਕਿ ਉਹ ਡੇਟਾ ਪ੍ਰਭੂਸੱਤਾ ਦੀ ਗਾਰੰਟੀ ਦੇ ਸਕਦੇ ਹਨ।
GDPR ਚੈਟਬੋਟਾਂ ਲਈ Private AI ਅਪਣਾਉਣ ਵੇਲੇ ਆਮ ਖ਼ਤਰੇ (ਅਤੇ ਇਨ੍ਹਾਂ ਤੋਂ ਕਿਵੇਂ ਬਚੀਏ)
ਨੇਕ ਨੀਅਤ ਦੇ ਬਾਵਜੂਦ, ਟੀਮਾਂ ਠੋਕਰ ਖਾਂਦੀਆਂ ਹਨ। ਇਹ ਰਹੇ ਸਿਖਰਲੇ ਜਾਲ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਮੈਂ ਲੋਕਾਂ ਨੂੰ ਫਸਦੇ ਦੇਖਿਆ ਹੈ।
-
ਇਹ ਮੰਨਣਾ ਕਿ “on‑premises” ਦਾ ਮਤਲਬ ਆਪਣੇ ਆਪ GDPR ਅਨੁਕੂਲ ਹੈ।
ਆਪਣੇ ਬੇਸਮੈਂਟ ਵਿੱਚ ਸਰਵਰ ਰੱਖਣ ਨਾਲ ਡੇਟਾ-ਸਾਂਝਾਕਰਨ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਜਾਦੂਈ ਢੰਗ ਨਾਲ ਖਤਮ ਨਹੀਂ ਹੁੰਦੀਆਂ। ਤੁਹਾਨੂੰ ਫਿਰ ਵੀ ਕਾਨੂੰਨੀ ਆਧਾਰ, ਢੁਕਵੀਂ ਸਹਿਮਤੀ ਅਤੇ ਡੇਟਾ ਮਿਟਾਉਣ ਦੀ ਸਮਰੱਥਾ ਚਾਹੀਦੀ ਹੈ। ਮੈਂ ਇੱਕ ਵਾਰ ਇੱਕ ਸਿਸਟਮ ਦੀ ਸਮੀਖਿਆ ਕੀਤੀ ਜਿੱਥੇ ਚੈਟਬੋਟ ਨੇ ਪੂਰੇ ਚੈਟ ਲੌਗ 18 ਮਹੀਨਿਆਂ ਤੱਕ ਬਿਨਾਂ ਐਨਕ੍ਰਿਪਸ਼ਨ ਸਟੋਰ ਕੀਤੇ — ਆਨ-ਪ੍ਰੇਮ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਅਸੁਰੱਖਿਅਤ। -
ਮਾਡਲ ਸਿਖਲਾਈ ਡਾਟਾ ਬਾਰੇ ਭੁੱਲਣਾ।
ਜੇ ਤੁਸੀਂ ਉਪਭੋਗਤਾ ਗੱਲਬਾਤ 'ਤੇ ਮਾਡਲ ਨੂੰ ਫਾਈਨ-ਟਿਊਨ ਕਰਦੇ ਹੋ, ਤਾਂ ਉਹ ਸਿਖਲਾਈ ਸੈੱਟ ਆਪ ਵਿੱਚ ਹੀ ਨਿੱਜੀ ਡੇਟਾ ਹੈ। ਤੁਹਾਨੂੰ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸੂਚਿਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਸਹਿਮਤੀ ਪ੍ਰਾਪਤ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਅਤੇ ਔਪਟ-ਆਊਟ ਦੀ ਆਗਿਆ ਦੇਣੀ ਚਾਹੀਦੀ ਹੈ। 2025 ਵਿੱਚ, ਫਰਾਂਸੀਸੀ CNIL ਨੇ ਇੱਕ ਸਟਾਰਟਅੱਪ 'ਤੇ ਢੁਕਵੀਂ ਸੂਚਨਾ ਤੋਂ ਬਿਨਾਂ ਆਪਣੇ ਮਾਡਲ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਗਾਹਕ ਚੈਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ 'ਤੇ ਜੁਰਮਾਨਾ ਲਗਾਇਆ। ਉਹ ਗਲਤੀ ਨਾ ਦੁਹਰਾਓ। -
GPU ਲਾਗਤ ਅਤੇ ਰੱਖ-ਰਖਾਅ ਨੂੰ ਘੱਟ ਸਮਝਣਾ।
70B ਪੈਰਾਮੀਟਰ ਮਾਡਲ ਚਲਾਉਣਾ ਸਸਤਾ ਨਹੀਂ ਹੈ। ਉਤਪਾਦਨ ਲਈ ਮੈਂ ਹਮੇਸ਼ਾ ਘੱਟੋ-ਘੱਟ ਦੋ A100 GPU ਦਾ ਬਜਟ ਰੱਖਦਾ ਹਾਂ। ਫਿਰ ਵੀ ਬਹੁਤ ਸਾਰੀਆਂ ਟੀਮਾਂ ਨਿਰੰਤਰ ਨਿਗਰਾਨੀ ਦਾ ਹਿਸਾਬ ਲਗਾਉਣਾ ਭੁੱਲ ਜਾਂਦੀਆਂ ਹਨ। ਮਾਡਲ ਡ੍ਰਿਫਟ ਅਤੇ ਦੁਬਾਰਾ ਸਿਖਲਾਈ ਨੂੰ ਟਰੈਕ ਕਰਨ ਲਈ MLflow ਵਰਗੇ MLOps ਟੂਲ ਵਰਤੋਂ — ਨਹੀਂ ਤਾਂ, ਤੁਹਾਡੇ ਕੋਲ ਇੱਕ ਪੁਰਾਣਾ ਬੋਟ ਰਹਿ ਜਾਵੇਗਾ ਜੋ ਪੁਰਾਣੀ ਕਾਨੂੰਨੀ ਜਾਂ ਡਾਕਟਰੀ ਸਲਾਹ ਦਿੰਦਾ ਹੈ, ਜੋ ਆਪ ਵਿੱਚ ਹੀ ਇੱਕ ਪਾਲਣਾ ਜੋਖਮ ਹੈ। -
ਸਪਸ਼ਟੀਕਰਨ ਦੇ ਅਧਿਕਾਰ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨਾ।
GDPR ਧਾਰਾ 22 ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਪ੍ਰਭਾਵਾਂ ਵਾਲੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਵੈਚਾਲਿਤ ਫੈਸਲਿਆਂ ਦੇ ਅਧੀਨ ਨਾ ਹੋਣ ਦਾ ਅਧਿਕਾਰ ਦਿੰਦੀ ਹੈ। ਜੇ ਤੁਹਾਡਾ ਚੈਟਬੋਟ ਕਰਜ਼ਾ ਅਰਜ਼ੀ ਰੱਦ ਕਰਦਾ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਇਹ ਸਮਝਾਉਣਾ ਪਵੇਗਾ ਕਿ ਕਿਉਂ। ਪ੍ਰਾਈਵੇਟ AI ਨਾਲ, ਤੁਸੀਂ ਸਿਰਫ਼ ਜਵਾਬ ਹੀ ਨਹੀਂ ਬਲਕਿ ਅਨੁਮਾਨ ਦੇ ਕਦਮਾਂ (ਚੇਨ-ਆਫ-ਥੌਟ ਰਾਹੀਂ) ਨੂੰ ਵੀ ਲੌਗ ਕਰ ਸਕਦੇ ਹੋ। ਉਨ੍ਹਾਂ ਲੌਗਾਂ ਦੀ ਵਰਤੋਂ ਮਨੁੱਖੀ-ਪਠਣਯੋਗ ਵਿਆਖਿਆਵਾਂ ਤਿਆਰ ਕਰਨ ਲਈ ਕਰੋ। ਪਬਲਿਕ API ਸ਼ਾਇਦ ਹੀ ਇੰਨੀ ਡੂੰਘੀ ਸਮਝ ਦਿੰਦੇ ਹਨ। -
ਪੈਨੀਟ੍ਰੇਸ਼ਨ ਟੈਸਟਿੰਗ ਛੱਡਣਾ।
ਇੱਕ ਪ੍ਰਾਈਵੇਟ AI ਚੈਟਬੋਟ ਫਿਰ ਵੀ ਇੱਕ ਵੈੱਬ ਐਪਲੀਕੇਸ਼ਨ ਹੈ। ਹਮਲਾਵਰ PII ਕੱਢਣ ਲਈ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਸਕਦੇ ਹਨ। ਮੈਂ ਹਰ ਤਾਇਨਾਤੀ ਤੋਂ ਬਾਅਦ ਸਮਰਪਿਤ ਰੈੱਡ-ਟੀਮ ਅਭਿਆਸ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦਾ ਹਾਂ। ਇੱਕ ਟੈਸਟ ਵਿੱਚ, ਇੱਕ ਨਕਲੀ ਹਮਲਾਵਰ ਨੇ ਬੋਟ ਨੂੰ ਅੰਦਰੂਨੀ ਕਰਮਚਾਰੀਆਂ ਦੇ ਨਾਮ ਦੱਸਣ ਲਈ ਮਨਾ ਲਿਆ। ਅਸੀਂ ਸਖ਼ਤ ਆਉਟਪੁੱਟ ਫਿਲਟਰ ਜੋੜ ਕੇ ਅਤੇ ਵਿਰੋਧੀ ਉਦਾਹਰਣਾਂ ਨਾਲ ਦੁਬਾਰਾ ਸਿਖਲਾਈ ਦੇ ਕੇ ਇਸਨੂੰ ਠੀਕ ਕੀਤਾ। ਇਹ ਉਹ ਚੀਜ਼ ਹੈ ਜਿਸਨੂੰ ਤੁਸੀਂ ਬੰਦ API ਨਾਲ ਪੂਰੀ ਤਰ੍ਹਾਂ ਕੰਟਰੋਲ ਨਹੀਂ ਕਰ ਸਕਦੇ।
GDPR ਪਾਲਣਾ ਲਈ ਪ੍ਰਾਈਵੇਟ AI ਦਾ ROI ਮਾਪਣਾ
ਕੁਝ ਕਾਰਜਕਾਰੀ ਪੁੱਛਦੇ ਹਨ, "ਸਸਤੇ API ਹੋਣ ਉੱਤੇ ਨਿੱਜੀ ਹਾਰਡਵੇਅਰ ਉੱਤੇ ਖਰਚ ਕਿਉਂ?" ਮੈਂ ਤਿੰਨ ਠੋਸ ਅੰਕੜਿਆਂ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦਾ ਹਾਂ।
- Fine avoidance. ਔਸਤ GDPR ਜੁਰਮਾਨਾ ਹੁਣ €1.56 ਮਿਲੀਅਨ ਹੈ। ਇੱਕ ਹੀ ਘਟਨਾ ਸਾਲਾਂ ਦੀ API ਬੱਚਤ ਨੂੰ ਖਤਮ ਕਰ ਸਕਦੀ ਹੈ।
- Customer trust. 2025 ਦੇ TrustArc ਸਰਵੇਖਣ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ 82% ਖਪਤਕਾਰ ਉਸ ਬ੍ਰਾਂਡ ਦੀ ਵਰਤੋਂ ਬੰਦ ਕਰ ਦੇਣਗੇ ਜੋ ਉਨ੍ਹਾਂ ਦੇ AI ਡੇਟਾ ਦੀ ਗ਼ਲਤ ਸੰਭਾਲ ਕਰੇ। B2B ਵਿੱਚ, ਡੇਟਾ ਪ੍ਰਭੂਸੱਤਾ ਅਕਸਰ ਇਕਰਾਰਨਾਮੇ ਦੀ ਸ਼ਰਤ ਹੁੰਦੀ ਹੈ। ਪ੍ਰਾਈਵੇਟ AI ਤੁਹਾਨੂੰ ਉਹ ਇਕਰਾਰਨਾਮੇ ਸਾਈਨ ਕਰਨ ਦਿੰਦਾ ਹੈ।
- ਸੰਚਾਲਨ ਨਿਯੰਤਰਣ। ਜਦੋਂ ਤੁਸੀਂ ਆਪਣਾ ਮਾਡਲ ਖੁਦ ਹੋਸਟ ਕਰਦੇ ਹੋ, ਤਾਂ ਤੁਸੀਂ ਕਿਸੇ ਵੀ ਸਮੇਂ ਅੱਪਗ੍ਰੇਡ, ਪੈਚ ਜਾਂ ਮੁੜ-ਸਿਖਲਾਈ ਕਰ ਸਕਦੇ ਹੋ — ਪ੍ਰਦਾਤਾ ਦੀ ਸਮਾਂ-ਸੀਮਾ ਦੀ ਉਡੀਕ ਨਹੀਂ। 2024 ਦੇ OpenAI ਆਊਟੇਜ ਦੌਰਾਨ, GPT‑4 ਉੱਤੇ ਨਿਰਭਰ ਕੰਪਨੀਆਂ 8 ਘੰਟੇ ਲਈ ਪੂਰੀ ਤਰ੍ਹਾਂ ਠੱਪ ਸਨ। ਪ੍ਰਾਈਵੇਟ AI ਉੱਤੇ ਸਾਡੇ ਗਾਹਕਾਂ ਉੱਤੇ ਜ਼ੀਰੋ ਅਸਰ ਪਿਆ ਕਿਉਂਕਿ ਉਨ੍ਹਾਂ ਦਾ ਬੋਟ ਬਾਹਰੀ ਸੇਵਾ ਉੱਤੇ ਨਿਰਭਰ ਨਹੀਂ ਸੀ। ਇਕੱਲੇ ਇਸ ਅਪਟਾਈਮ ਨੇ ਇੱਕ ਈ-ਕਾਮਰਸ ਗਾਹਕ ਦੀ €50,000 ਦੀ ਗੁਆਚੀ ਵਿਕਰੀ ਬਚਾਈ।
ਮੈਂ ਤਿੰਨ ਸਾਲਾਂ ਵਿੱਚ ਮਾਲਕੀ ਦੀ ਕੁੱਲ ਲਾਗਤ ਦੀ ਗਣਨਾ ਕੀਤੀ ਹੈ, ਜਿਸ ਵਿੱਚ ਹਾਰਡਵੇਅਰ, ਬਿਜਲੀ ਅਤੇ ਕਰਮਚਾਰੀ ਸ਼ਾਮਲ ਹਨ। ਪ੍ਰਤੀ ਮਹੀਨਾ 100,000 ਗੱਲਬਾਤ ਸੰਭਾਲਣ ਵਾਲੀ ਦਰਮਿਆਨੀ ਕੰਪਨੀ ਲਈ, ਨਿੱਜੀ AI ਸਟੈਕ ਆਮ ਤੌਰ ’ਤੇ ਸਿਰਫ਼ ਗਾਹਕੀ ਲਾਗਤਾਂ ’ਤੇ 14 ਮਹੀਨਿਆਂ ਵਿੱਚ ਐਂਟਰਪ੍ਰਾਈਜ਼ API ਕੀਮਤ ਨਾਲ ਬਰਾਬਰੀ ’ਤੇ ਆ ਜਾਂਦਾ ਹੈ — ਅਤੇ ਇਹ ਅਨੁਪਾਲਨ ਲਾਭ ਗਿਣਨ ਤੋਂ ਪਹਿਲਾਂ ਹੈ।
ਅਕਸਰ ਪੁੱਛੇ ਜਾਣ ਵਾਲੇ ਸਵਾਲ
ਕੀ ਪ੍ਰਾਈਵੇਟ AI ਚੈਟਬੋਟ ਕਿਸੇ ਵੀ ਕਲਾਊਡ ਵਿੱਚ ਤੈਨਾਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ?
ਹਾਂ, ਜਦੋਂ ਤੱਕ ਤੁਸੀਂ ਲੋੜੀਂਦੇ ਅੱਪਡੇਟਾਂ ਤੋਂ ਇਲਾਵਾ ਜਨਤਕ ਇੰਟਰਨੈੱਟ ਵੱਲ ਕੋਈ ਆਊਟਬਾਊਂਡ ਟ੍ਰੈਫਿਕ ਤੋਂ ਬਿਨਾਂ ਸਮਰਪਿਤ VPC ਦਾ ਪ੍ਰਬੰਧ ਕਰਦੇ ਹੋ। Azure, AWS ਅਤੇ GCP ਸਭ ਪ੍ਰਾਈਵੇਟ ਐਂਡਪੁਆਇੰਟ ਸਮਰਥਨ ਕਰਦੇ ਹਨ ਜੋ ਡੇਟਾ ਨੂੰ ਜਨਤਕ ਬੈਕਬੋਨ ਤੋਂ ਦੂਰ ਰੱਖਦੇ ਹਨ — ਸਾਡੇ ਗਾਹਕ ਤੈਨਾਤੀਆਂ ਦਾ ਦਾਇਰਾ ਬਿਲਕੁਲ ਇਸੇ ਤਰ੍ਹਾਂ ਤੈਅ ਹੈ।
ਜੇ ਮੈਂ LLM ਸੈਲਫ-ਹੋਸਟ ਕਰਦਾ ਹਾਂ ਤਾਂ ਕੀ ਮੈਨੂੰ ਅਜੇ ਵੀ ਡੇਟਾ ਪ੍ਰੋਸੈਸਿੰਗ ਸਮਝੌਤੇ ਦੀ ਲੋੜ ਹੈ?
ਤੀਜੀ-ਧਿਰ DPA ਨਹੀਂ, ਕਿਉਂਕਿ ਤੁਸੀਂ ਖ਼ੁਦ ਡਾਟਾ ਕੰਟਰੋਲਰ ਅਤੇ ਪ੍ਰੋਸੈਸਰ ਹੋ — ਪਰ ਤੁਹਾਨੂੰ ਅਜੇ ਵੀ ਪ੍ਰੋਸੈਸਿੰਗ ਦੇ ਅੰਦਰੂਨੀ ਰਿਕਾਰਡ, ਰਿਟੈਨਸ਼ਨ ਨੀਤੀ, ਅਤੇ ਬਾਕੀ ਸਬ-ਪ੍ਰੋਸੈਸਰਾਂ (ਹੋਸਟਿੰਗ, ਵੈਕਟਰ DB, ਨਿਗਰਾਨੀ) ਨਾਲ DPA ਚਾਹੀਦੇ ਹਨ। ਸੈਲਫ-ਹੋਸਟਿੰਗ ਵਿਕਰੇਤਾ ਹਟਾਉਂਦੀ ਹੈ; ਕਾਗਜ਼ੀ ਕਾਰਵਾਈ ਨਹੀਂ ਹਟਾਉਂਦੀ।
2026 ਵਿੱਚ GDPR ਚੈਟਬੌਟ ਲਈ ਸਭ ਤੋਂ ਵਧੀਆ ਓਪਨ ਮਾਡਲ ਕਿਹੜਾ ਹੈ?
ਸੈਲਫ-ਹੋਸਟਿਡ ਗੁਣਵੱਤਾ ਲਈ Llama 3 ਅਤੇ Mistral Large ਮੋਹਰੀ ਹਨ, Zephyr-ਸ਼੍ਰੇਣੀ ਦੇ ਮਾਡਲ ਹਲਕੇ ਕੰਮ ਸੰਭਾਲਦੇ ਹਨ। ਚੋਣ ਨਾਲੋਂ ਰੈਪਰ ਵੱਧ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ: ਰਿਡੈਕਸ਼ਨ (Presidio-ਸ਼ੈਲੀ), VPC ਆਈਸੋਲੇਸ਼ਨ, ਅਤੇ ਆਡਿਟ ਲੌਗਿੰਗ ਪਾਲਣਾ ਤੈਅ ਕਰਦੇ ਹਨ, ਸਿਰਫ਼ ਬੇਸ ਮਾਡਲ ਨਹੀਂ।
ਉਪਭੋਗਤਾ ਵੈਕਟਰ ਡੇਟਾਬੇਸ ਵਿਰੁੱਧ ਮਿਟਾਉਣ ਦੇ ਅਧਿਕਾਰਾਂ ਦੀ ਵਰਤੋਂ ਕਿਵੇਂ ਕਰਦੇ ਹਨ?
ਪ੍ਰਤੀ ਯੂਜ਼ਰ ਜਾਂ ਟੈਨੈਂਟ ਏਮਬੈਡਿੰਗ ਨੂੰ ਨੇਮਸਪੇਸ ਕਰਕੇ ਤਾਂ ਜੋ ਮਿਟਾਉਣ ਦੀ ਬੇਨਤੀ ਤੁਹਾਡੀ ਰਿਟੈਂਸ਼ਨ ਵਿੰਡੋ ਦੇ ਅੰਦਰ ਵੈਕਟਰਾਂ, ਲੌਗਾਂ ਅਤੇ ਬੈਕਅੱਪਾਂ ਦੇ ਨਿਰਧਾਰਕ ਸਫ਼ਾਏ ਨਾਲ ਜੁੜ ਜਾਵੇ। ਇੱਕ ਵੀ ਦਸਤਾਵੇਜ਼ ਸ਼ਾਮਲ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇਸਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰੋ — ਸਾਂਝੇ ਇੰਡੈਕਸ 'ਤੇ ਪ੍ਰਤੀ-ਯੂਜ਼ਰ ਸਫ਼ਾਇਆ ਬਾਅਦ ਵਿੱਚ ਜੋੜਨਾ ਚੈਟਬੋਟ ਪ੍ਰੋਜੈਕਟਾਂ ਵਿੱਚ ਸਭ ਤੋਂ ਮਹਿੰਗਾ ਦੁਬਾਰਾ ਕੰਮ ਹੈ।
ਕੀ Azure OpenAI ਸਿਹਤ ਜਾਂ ਕਾਨੂੰਨੀ ਡਾਟਾ ਲਈ “ਪਰਿਆਪਤ ਨਿੱਜੀ” ਹੈ?
ਸਹੀ ਸ਼ਰਤਾਂ ਹੇਠ ਇਹ ਹੋ ਸਕਦਾ ਹੈ: ਪ੍ਰੋਂਪਟਾਂ ਦੀ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਨਾ ਹੋਣਾ, EU ਡਾਟਾ ਰਿਹਾਇਸ਼, ਅਤੇ ਦੁਰਵਰਤੋਂ-ਨਿਗਰਾਨੀ ਔਪਟ-ਆਊਟ ਦਸਤਾਵੇਜ਼ਿਤ ਨਾਲ ਹਸਤਾਖਰਿਤ DPA। ਸਖ਼ਤ ਕੰਮਾਂ ਲਈ ਸਾਡੇ ਗਾਹਕ ਅਜੇ ਵੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਵੈ-ਹੋਸਟਡ ਮਾਡਲਾਂ ਨੂੰ ਤਰਜੀਹ ਦਿੰਦੇ ਹਨ ਜਿੱਥੇ ਕੋਈ ਤੀਜੀ ਧਿਰ ਪਲੇਨਟੈਕਸਟ ਕਦੇ ਨਹੀਂ ਦੇਖਦੀ।
DG10 'ਤੇ ਪੜ੍ਹਨਾ ਜਾਰੀ ਰੱਖੋ
ਹੁਣ ਤੱਕ, ਮੈਨੂੰ ਉਮੀਦ ਹੈ ਕਿ ਇਹ ਸਪੱਸ਼ਟ ਹੈ ਕਿ GDPR-ਅਨੁਕੂਲ ਚੈਟਬੋਟ ਸਿਰਫ਼ ਤਕਨੀਕੀ ਖਾਨਾਪੂਰਤੀ ਕਸਰਤ ਨਹੀਂ ਹੈ। ਇਹ ਇੱਕ ਰਣਨੀਤਕ ਫ਼ੈਸਲਾ ਹੈ ਜੋ ਤੁਹਾਡੇ ਕਾਰੋਬਾਰ ਦੀ ਰੱਖਿਆ ਕਰਦਾ ਹੈ, ਤੁਹਾਡੇ ਉਪਭੋਗਤਾਵਾਂ ਦਾ ਸਤਿਕਾਰ ਕਰਦਾ ਹੈ, ਅਤੇ ਤੁਹਾਡੇ AI ਨਿਵੇਸ਼ਾਂ ਨੂੰ ਭਵਿੱਖ-ਸੁਰੱਖਿਅਤ ਬਣਾਉਂਦਾ ਹੈ। DG10 ਵਿੱਚ ਮੇਰੇ ਨਾਲ ਕੰਮ ਕਰਨ ਵਾਲੀ ਹਰ ਦੂਰਅੰਦੇਸ਼ ਕੰਪਨੀ ਸਮਝਦੀ ਹੈ ਕਿ ਅਸਲ ਡਾਟਾ ਨਿਯੰਤਰਣ ਸਿਰਫ਼ ਪ੍ਰਾਈਵੇਟ AI ਨਾਲ ਹੀ ਮਿਲਦਾ ਹੈ। ਜੇ ਤੁਸੀਂ ਅਜਿਹਾ ਬੋਟ ਬਣਾਉਣ ਲਈ ਤਿਆਰ ਹੋ ਜਿਸ 'ਤੇ ਤੁਹਾਡੇ ਉਪਭੋਗਤਾ — ਅਤੇ ਤੁਹਾਡੀ ਕਾਨੂੰਨੀ ਟੀਮ — ਮਾਣ ਕਰ ਸਕਣ, ਤਾਂ ਗੱਲ ਕਰੀਏ।