AI ਪਾਇਲਟ ਤੋਂ ਪ੍ਰੋਡਕਸ਼ਨ ਤੱਕ: ਇੱਕ ਸਿੱਧ AI ਤਾਇਨਾਤੀ ਵਿਧੀ
ਜਦੋਂ ਮੈਂ ਸੰਸਥਾਪਕਾਂ ਅਤੇ CTO ਨਾਲ ਗੱਲ ਕਰਦਾ ਹਾਂ, ਤਾਂ ਉਹੀ ਕਹਾਣੀ ਵਾਰ-ਵਾਰ ਸਾਹਮਣੇ ਆਉਂਦੀ ਹੈ: ਸਾਡਾ AI ਪਾਇਲਟ ਸ਼ਾਨਦਾਰ ਸੀ, ਪਰ ਉਹ ਕਦੇ ਉਤਪਾਦਨ ਤੱਕ ਨਹੀਂ ਪਹੁੰਚਿਆ। ਗੁੰਮਿਆ ਹੋਇਆ ਹਿੱਸਾ ਇੱਕ ਵਿਵਸਥਤ ਹੈ AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ ਜੋ ਪਾਇਲਟ ਨੂੰ ਵੱਖਰੇ ਪ੍ਰਯੋਗ ਵਜੋਂ ਨਹੀਂ ਸਗੋਂ ਉਤਪਾਦਨ ਪਾਈਪਲਾਈਨ ਦੇ ਪਹਿਲੇ ਪੜਾਅ ਵਜੋਂ ਮੰਨਦਾ ਹੈ। ਇਸ ਵਿਧੀ ਤੋਂ ਬਿਨਾਂ, ਟੀਮਾਂ ਪਾਇਲਟਾਂ ਉੱਤੇ ਮਹੀਨੇ ਬਰਬਾਦ ਕਰਦੀਆਂ ਹਨ ਜੋ ਸੰਕਲਪ ਸਾਬਤ ਕਰਦੇ ਹਨ ਪਰ ਵਧਣ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ—ਸਵੈਚਾਲਨ ਸਮਰੱਥਾ ਨੂੰ ਅਣਵਰਤਿਆ ਛੱਡਦੀਆਂ ਹਨ। IDC ਅਨੁਸਾਰ, 2026 ਵਿੱਚ ਵਿਸ਼ਵ AI ਖਰਚ $300 billion ਤੋਂ ਵੱਧ ਜਾਵੇਗਾ, ਫਿਰ ਵੀ ਉਸ ਨਿਵੇਸ਼ ਦਾ ਹੈਰਾਨ ਕਰਨ ਵਾਲਾ ਹਿੱਸਾ ਛੱਡੇ ਗਏ ਪ੍ਰੂਫ-ਆਫ-ਕਾਂਸੈਪਟਾਂ ਵਿੱਚ ਭਾਫ ਬਣ ਜਾਂਦਾ ਹੈ। ਮੈਂ ਇਹ ਦਰਜਨਾਂ ਸਹਿਯੋਗਾਂ ਵਿੱਚ ਦੇਖਿਆ ਹੈ: ਡੇਟਾ ਵਿਗਿਆਨੀ Jupyter ਨੋਟਬੁੱਕ ਵਿੱਚ ਸ਼ਾਨਦਾਰ ਮਾਡਲ ਦਿੰਦੇ ਹਨ, ਪਰ ਲਾਈਵ ਟ੍ਰੈਫਿਕ ਤੱਕ ਦਾ ਰਾਹ ਟੁੱਟੀਆਂ ਡੇਟਾ ਪਾਈਪਾਂ, ਕਮਜ਼ੋਰ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਅਤੇ ਅਣਪਰਖੀਆਂ ਧਾਰਨਾਵਾਂ ਨਾਲ ਭਰਿਆ ਹੁੰਦਾ ਹੈ। ਇੱਕ ਸੁਚੇਤ AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ ਉਸ ਖੂਨ-ਵਹਾਅ ਨੂੰ ਰੋਕਣ ਦਾ ਇੱਕੋ-ਇੱਕ ਤਰੀਕਾ ਹੈ।
DG10 Agency ਵਿਖੇ, ਅਸੀਂ ਦਰਜਨਾਂ ਕੰਪਨੀਆਂ ਨੂੰ ਉਹ ਪਾੜਾ ਪੂਰਨ ਵਿੱਚ ਮਦਦ ਕੀਤੀ ਹੈ। ਇਹ ਗਾਈਡ ਉਹੀ ਢਾਂਚਾ ਦਿੰਦੀ ਹੈ ਜੋ ਅਸੀਂ ਵਰਤਦੇ ਹਾਂ: ਇੱਕ ਦੁਹਰਾਉਣਯੋਗ, ਜੰਗ-ਪ੍ਰੀਖਿਅਤ AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ AI ਪਾਇਲਟ ਤੋਂ ਉਤਪਾਦਨ ਤੱਕ ਭਰੋਸੇ, ਗਤੀ ਅਤੇ ਘੱਟੋ-ਘੱਟ ਰੁਕਾਵਟ ਨਾਲ ਜਾਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ। ਅਸੀਂ ਅਸਲ ਕੇਸ ਸਟੱਡੀਜ਼, ਠੋਸ ਅੰਕੜੇ ਅਤੇ ਟੂਲ ਸਟੈਕ ਬਾਰੇ ਦੱਸਾਂਗੇ ਜੋ ਸਾਡੇ ਗਾਹਕਾਂ ਦੇ ਮਾਡਲਾਂ ਨੂੰ ਹਫ਼ਤਾ-ਦਰ-ਹਫ਼ਤਾ ਮੁੱਲ ਪ੍ਰਦਾਨ ਕਰਦਾ ਰੱਖਦਾ ਹੈ।
AI ਪਾਇਲਟ ਅਤੇ ਪ੍ਰੋਡਕਸ਼ਨ ਦਰਮਿਆਨ ਖਾਈ
2023 ਦੇ Gartner ਸਰਵੇਖਣ ਅਨੁਸਾਰ, ਸਿਰਫ਼ 54% AI ਪ੍ਰੋਜੈਕਟ ਪਾਇਲਟ ਤੋਂ ਉਤਪਾਦਨ ਤੱਕ ਪਹੁੰਚਦੇ ਹਨ। ਇਹ ਲਗਭਗ 50% ਅਸਫਲਤਾ ਦਰ ਹੈ। McKinsey ਦੀ 2023 “State of AI” ਰਿਪੋਰਟ ਵਿੱਚ ਵੀ ਅਜਿਹੇ ਅੰਕੜੇ ਮਿਲੇ: ਜੋ ਸੰਗਠਨ AI ਨੂੰ ਸਫਲਤਾ ਨਾਲ ਵਧਾਉਂਦੇ ਹਨ, ਉਹ ਅਪਵਾਦ ਹਨ, ਨਿਯਮ ਨਹੀਂ, ਅਤੇ ਜੋ ਕਰਦੇ ਹਨ, ਉਹ 3–15% ਆਮਦਨ ਵਾਧਾ ਦੱਸਦੇ ਹਨ। ਖੱਡ ਮਾਡਲ ਸ਼ੁੱਧਤਾ ਬਾਰੇ ਨਹੀਂ—ਸੰਚਾਲਨ ਪਾੜੇ ਬਾਰੇ ਹੈ। BCG ਦੇ ਇੱਕ ਹੋਰ ਅਧਿਐਨ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ ਸਿਰਫ਼ 11% ਕੰਪਨੀਆਂ ਨੇ AI ਵੱਡੇ ਪੱਧਰ ’ਤੇ ਤਾਇਨਾਤ ਕੀਤਾ ਹੈ, ਜਿਸ ਦੇ ਕਾਰਨ ਤਾਇਨਾਤੀ ਰੁਕਾਵਟਾਂ ਅਤੇ ਵਿਵਸਥਿਤ ਪ੍ਰਕਿਰਿਆਵਾਂ ਦੀ ਘਾਟ ਦੱਸੀ ਗਈ।
ਕਿਉਂ? ਕਿਉਂਕਿ ਜ਼ਿਆਦਾਤਰ ਟੀਮਾਂ AI ਪਾਇਲਟ ਨੂੰ ਡਿਪਲਾਇਮੈਂਟ ਦੀਆਂ ਸੀਮਾਵਾਂ ਬਾਰੇ ਸੋਚੇ ਬਿਨਾਂ ਸਿਰਫ਼ ਪ੍ਰੂਫ਼-ਆਫ਼-ਕਾਂਸੈਪਟ (PoC) ਵਜੋਂ ਲੈਂਦੀਆਂ ਹਨ। ਉਹ ਛੋਟੇ ਨਮੂਨਾ ਡੇਟਾਸੈੱਟ ਵਰਤਦੀਆਂ ਹਨ, ਲੇਟੈਂਸੀ ਦੀਆਂ ਲੋੜਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦੀਆਂ ਹਨ, ਇੱਕੋ ਸਮੇਂ ਦੇ ਲੋਡ ਹੇਠ ਕਦੇ ਸਟ੍ਰੈੱਸ-ਟੈਸਟ ਨਹੀਂ ਕਰਦੀਆਂ, ਅਤੇ ਮਾਨੀਟਰਿੰਗ ਦੀ ਯੋਜਨਾ ਨਹੀਂ ਬਣਾਉਂਦੀਆਂ। ਜਦੋਂ ਲਾਈਵ ਜਾਣ ਦਾ ਸਮਾਂ ਆਉਂਦਾ ਹੈ, ਤਾਂ ਮਾਡਲ ਅਸਲ-ਦੁਨੀਆ ਦੇ ਲੋਡ ਹੇਠ ਟੁੱਟ ਜਾਂਦਾ ਹੈ, ਡੇਟਾ ਪਾਈਪਲਾਈਨਾਂ ਪੁਰਾਣੇ ਸਕੀਮਿਆਂ ਕਾਰਨ ਫੇਲ੍ਹ ਹੋ ਜਾਂਦੀਆਂ ਹਨ, ਅਤੇ ਹਿੱਸੇਦਾਰਾਂ ਦਾ ਭਰੋਸਾ ਟੁੱਟ ਜਾਂਦਾ ਹੈ। ਉਹ ਮਾਡਲ ਜੋ ਲੈਬ ਵਿੱਚ 98% ਚੈਂਪੀਅਨ ਲੱਗਦਾ ਸੀ, ਅਚਾਨਕ ਕੂੜਾ ਆਉਟਪੁੱਟ ਦੇਣ ਲੱਗਦਾ ਹੈ ਕਿਉਂਕਿ ਪ੍ਰੋਡਕਸ਼ਨ ਡੇਟਾ ਸਿਰਫ਼ ਇੱਕ ਪ੍ਰਤੀਸ਼ਤ ਅੰਕ ਬਦਲ ਗਿਆ ਸੀ।
ਹੱਲ ਪਾਇਲਟ ਚਲਾਉਣਾ ਬੰਦ ਕਰਨਾ ਨਹੀਂ ਹੈ — ਇਹ ਇੱਕ ਨੂੰ ਅਪਣਾਉਣਾ ਹੈ AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ ਜੋ ਤੁਹਾਨੂੰ ਪਹਿਲੇ ਦਿਨ ਤੋਂ ਉਤਪਾਦਨ ਬਾਰੇ ਸੋਚਣ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ। ਮੈਂ ਟੀਮਾਂ ਨੂੰ ਪਾਇਲਟ ਨੂੰ ਡਿਸਪੋਜ਼ੇਬਲ ਪ੍ਰਯੋਗ ਨਾ ਸਮਝ ਕੇ ਉਤਪਾਦਨ ਸੇਵਾ ਦਾ ਪਹਿਲਾ ਦੁਹਰਾਅ ਮੰਨ ਕੇ ਤੈਨਾਤੀ ਸਮਾਂ-ਸਾਰਣੀ ਵਿੱਚ 60% ਕਟੌਤੀ ਕਰਦੇ ਅਤੇ ਅਸਫਲਤਾ ਦਰਾਂ ਘਟਾਉਂਦੇ ਦੇਖਿਆ ਹੈ।
AI ਤੈਨਾਤੀ ਵਿਧੀ ਨੂੰ ਕਾਰਗਰ ਕੀ ਬਣਾਉਂਦਾ ਹੈ?
ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਵਿਧੀ ਵਿੱਚ ਤਿੰਨ ਪੜਾਅ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ:
- ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ & ਪ੍ਰਮਾਣਿਤ ਕਰੋ – AI ਪਾਇਲਟ ਆਪ ਹੀ, ਪਰ ਉਤਪਾਦਨ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖ ਕੇ।
- Build for Scale – ਪਾਇਲਟ ਕੋਡ, ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਅਤੇ ਡਾਟਾ ਪਾਈਪਲਾਈਨਾਂ ਨੂੰ ਮੁੜ-ਸੰਗਠਿਤ ਕਰੋ।
- ਡਿਪਲੌਏ & ਨਿਗਰਾਨੀ – ਨਿਰੰਤਰ ਡਿਲਿਵਰੀ, ਨਿਰੀਖਣਯੋਗਤਾ ਅਤੇ ਫੀਡਬੈਕ ਲੂਪ।
We call this the DG10 AI ਤਾਇਨਾਤੀ ਫ਼ਰੇਮਵਰਕ. ਇਹ ਕੋਈ ਸਖ਼ਤ ਨਿਯਮ-ਪੁਸਤਕ ਨਹੀਂ ਹੈ—ਇਹ ਤੁਹਾਡੇ ਸਟੈਕ (cloud, on‑prem, edge) ਅਤੇ ਤੁਹਾਡੇ ਕਾਰੋਬਾਰੀ ਖੇਤਰ (ਗਾਹਕ ਸੇਵਾ, ਸੰਚਾਲਨ, ਵਿੱਤ) ਅਨੁਸਾਰ ਢਲਦਾ ਹੈ। ਸਾਲਾਂ ਦੌਰਾਨ, ਅਸੀਂ ਇਹ ਢਾਂਚਾ ਈ-ਕਾਮਰਸ ਸਿਫ਼ਾਰਸ਼ ਇੰਜਣਾਂ, ਧੋਖਾਧੜੀ ਪਛਾਣ ਮਾਡਲਾਂ, ਗਤੀਸ਼ੀਲ ਕੀਮਤ ਪ੍ਰਣਾਲੀਆਂ ਅਤੇ ਇੱਥੋਂ ਤੱਕ ਕਿ ਮੈਡੀਕਲ ਇਮੇਜਿੰਗ ਵਰਗੀਕਰਣ ’ਤੇ ਲਾਗੂ ਕੀਤਾ ਹੈ। ਮੂਲ ਉਹੀ ਰਹਿੰਦਾ ਹੈ, ਪਰ ਟੂਲ ਅਤੇ ਸੀਮਾਵਾਂ ਬਦਲਦੀਆਂ ਹਨ।
ਹੇਠਾਂ ਮੈਂ ਹਰ ਪੜਾਅ ਨੂੰ ਵਿਹਾਰਕ ਕਦਮਾਂ, ਸਾਧਨਾਂ ਅਤੇ ਅਸਲ-ਦੁਨੀਆ ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਨਾਲ ਵੰਡਦਾ ਹਾਂ। ਮੈਂ ਉਹ ਮੈਟ੍ਰਿਕਸ ਵੀ ਸਾਂਝੇ ਕਰਾਂਗਾ ਜੋ ਅਸੀਂ ਟਰੈਕ ਕਰਦੇ ਹਾਂ ਅਤੇ ਉਹ ਗਲਤੀਆਂ ਜੋ ਟੀਮਾਂ ਨੂੰ ਅਕਸਰ ਠੋਕਰ ਮਾਰਦੀਆਂ ਹਨ।
ਪੜਾਅ 1: ਆਪਣੇ AI ਪਾਇਲਟ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ & ਪ੍ਰਮਾਣਿਤ ਕਰੋ
AI ਪਾਇਲਟ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਜ਼ਿਆਦਾਤਰ ਟੀਮਾਂ ਭਟਕ ਜਾਂਦੀਆਂ ਹਨ। ਉਹ ਇਸ ਨੂੰ "ਸਾਇੰਸ ਪ੍ਰੋਜੈਕਟ" ਸਮਝਦੇ ਹਨ ਅਤੇ ਇੰਜੀਨੀਅਰਿੰਗ ਰੁਕਾਵਟਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦੇ ਹਨ। ਇਸ ਤੋਂ ਬਚਣ ਲਈ, ਅਸੀਂ ਤਿੰਨ ਗੇਟਾਂ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦੇ ਹਾਂ:
ਗੇਟ 1: ਕਾਰੋਬਾਰੀ ਸਮੱਸਿਆ ਦੀ ਸਪੱਸ਼ਟਤਾ
ਕੋਡ ਦੀ ਇੱਕ ਵੀ ਲਾਈਨ ਲਿਖਣ ਤੋਂ ਪਹਿਲਾਂ, ਜਵਾਬ ਦਿਓ: ਇਹ ਮਾਡਲ ਕਿਸ ਫੈਸਲੇ ਨੂੰ ਬਿਹਤਰ ਬਣਾਏਗਾ? "ਅਸੀਂ ਚੈਟਬੋਟ ਬਣਾਵਾਂਗੇ" ਨਹੀਂ, ਸਗੋਂ "ਅਸੀਂ ਰਿਫੰਡ ਬੇਨਤੀਆਂ ਲਈ ਪਹਿਲਾ-ਜਵਾਬ ਸਮਾਂ 50% ਘਟਾਵਾਂਗੇ।" ਟੀਚਾ KPI ਮਾਤਰਾਬੱਧ ਕਰੋ। ਇਹ ਟੀਮ ਨੂੰ ਮਾਡਲ ਦੇ ਆਉਟਪੁੱਟ ਨੂੰ ਮਾਪਣਯੋਗ ਕਾਰੋਬਾਰੀ ਲੀਵਰ ਨਾਲ ਜੋੜਨ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ। ਇਸ ਤੋਂ ਬਿਨਾਂ, ਪ੍ਰੋਜੈਕਟ ਸਮੱਸਿਆ ਦੀ ਭਾਲ ਵਿੱਚ ਹੱਲ ਬਣ ਜਾਂਦਾ ਹੈ — ਅਤੇ ਕਦੇ ਪ੍ਰੋਡਕਸ਼ਨ ਬਜਟ ਨਹੀਂ ਪਾਏਗਾ।
ਗੇਟ 2: ਬੇਸਲਾਈਨ & ਸਫਲਤਾ ਮਾਪਦੰਡ
ਤੁਲਨਾ ਲਈ ਹੱਥੀਂ ਜਾਂ ਹਿਊਰਿਸਟਿਕ ਆਧਾਰ-ਰੇਖਾ ਚਲਾਓ। ਜੇ ਤੁਹਾਡਾ ਮਾਡਲ ਉਸ ਆਧਾਰ-ਰੇਖਾ ਨੂੰ ਘੱਟੋ-ਘੱਟ 20% (ਮਨਮਾਨਾ ਪਰ ਆਮ ਥ੍ਰੈਸ਼ਹੋਲਡ) ਨਾਲ ਨਹੀਂ ਹਰਾਉਂਦਾ, ਤਾਂ ਪਾਇਲਟ ਤੈਨਾਤ ਕਰਨ ਯੋਗ ਨਹੀਂ ਹੈ। ਸਹੀ ਮਾਪਦੰਡਾਂ ਦਾ ਦਸਤਾਵੇਜ਼ ਬਣਾਓ—ਸ਼ੁੱਧਤਾ, ਲੇਟੈਂਸੀ, ਪ੍ਰਤੀ ਭਵਿੱਖਬਾਣੀ ਲਾਗਤ। ਮੈਂ “ਪ੍ਰਤੀ ਸਹੀ ਫੈਸਲਾ ਮੁੱਲ” ਮਾਪਦੰਡ ਵੀ ਜੋੜਨਾ ਪਸੰਦ ਕਰਦਾ ਹਾਂ: ਜੇ ਧੋਖਾਧੜੀ ਮਾਡਲ ਰੋਜ਼ਾਨਾ 100 ਵਾਧੂ ਧੋਖਾਧੜੀ ਲੈਣ-ਦੇਣ ਫੜਦਾ ਹੈ ਅਤੇ ਹਰ ਇੱਕ $50 ਬਚਾਂਦਾ ਹੈ, ਤਾਂ ਇਹ ਰੋਜ਼ਾਨਾ $5,000 ਹੈ। ਇਹ ਅੰਕੜਾ 0.02 F1 ਸੁਧਾਰ ਨਾਲੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਬੋਲਦਾ ਹੈ।
ਗੇਟ 3: ਮਿਨੀ-ਪ੍ਰੋਡਕਸ਼ਨ ਸਿਮੂਲੇਸ਼ਨ
ਆਪਣੇ ਪਾਇਲਟ ਤੋਂ ਸਭ ਤੋਂ ਵਧੀਆ ਪ੍ਰਦਰਸ਼ਨ ਕਰਨ ਵਾਲੇ ਮਾਡਲ ਨੂੰ ਲਓ ਅਤੇ ਇਸਨੂੰ ਪ੍ਰੋਡਕਸ਼ਨ ਟ੍ਰੈਫਿਕ ਦੇ ਨਮੂਨੇ (ਅਗਿਆਤ, ਛੋਟੀ ਮਾਤਰਾ) 'ਤੇ ਚਲਾਓ। k6 ਜਾਂ Locust ਵਰਗੇ ਟੂਲਾਂ ਨਾਲ ਲੇਟੈਂਸੀ, ਮੈਮੋਰੀ ਵਰਤੋਂ, ਡਾਟਾ ਡ੍ਰਿਫਟ ਮਾਪੋ ਅਤੇ ਸਮਕਾਲੀ ਬੇਨਤੀਆਂ ਨਾਲ ਸਟ੍ਰੈਸ ਟੈਸਟ ਕਰੋ। ਇਹ ਇੱਕ ਕਦਮ ਤੈਨਾਤੀ ਦੀਆਂ 80% ਮੁਸੀਬਤਾਂ ਉਜਾਗਰ ਕਰ ਦਿੰਦਾ ਹੈ। ਮੈਨੂੰ ਇੱਕ ਰਿਟੇਲ ਗਾਹਕ ਯਾਦ ਹੈ ਜਿਸਦਾ ਸਿਫਾਰਿਸ਼ੀ ਮਾਡਲ Jupyter ਵਿੱਚ 120ms 'ਤੇ ਚੱਲਦਾ ਸੀ, ਪਰ Docker ਕੰਟੇਨਰ ਵਿੱਚ 100 ਸਮਕਾਲੀ ਬੇਨਤੀਆਂ ਹੇਠ p99 ਲੇਟੈਂਸੀ 1.8 ਸਕਿੰਟ ਤੱਕ ਵਧ ਗਈ — ਉਨ੍ਹਾਂ ਦੇ 300ms SLA ਤੋਂ ਕਿਤੇ ਵੱਧ। ਅਸੀਂ ਇਹ ਸਿਮੂਲੇਸ਼ਨ ਵਿੱਚ ਫੜਿਆ, ਬਲੈਕ ਫ੍ਰਾਈਡੇ 'ਤੇ ਨਹੀਂ।
Tools we use:
- MLflow ਪ੍ਰਯੋਗ ਟਰੈਕਿੰਗ ਲਈ
- DataRobot ਸਵੈਚਾਲਿਤ ML ਅਤੇ ਤੈਨਾਤੀ ਤਿਆਰੀ ਸਕੋਰਿੰਗ ਲਈ
- ਟਾਈਮ-ਪ੍ਰੋਫਾਈਲਿੰਗ ਲਾਇਬ੍ਰੇਰੀਆਂ ਵਾਲੀਆਂ ਸਧਾਰਨ Python ਸਕ੍ਰਿਪਟਾਂ
ਮੈਂ ਟੀਮਾਂ ਨੂੰ Gate 3 ਛੱਡ ਕੇ ਫਿਰ ਤਿੰਨ ਮਹੀਨੇ ਅਜਿਹੇ ਮਾਡਲ ਨੂੰ ਡੀਬੱਗ ਕਰਦੇ ਦੇਖਿਆ ਹੈ ਜੋ Jupyter ਵਿੱਚ ਚੱਲਦਾ ਸੀ ਪਰ Docker ਵਿੱਚ ਕ੍ਰੈਸ਼ ਹੋ ਗਿਆ। ਉਸ ਟੀਮ ਨਾ ਬਣੋ।
ਪੜਾਅ 2: ਸਕੇਲ ਲਈ ਬਣਾਓ — ਸਾਡੀ ਮੁੱਖ AI ਤੈਨਾਤੀ ਵਿਧੀ
ਹੁਣ ਅਸੀਂ ਪਾਇਲਟ ਨੂੰ ਪ੍ਰੋਡਕਸ਼ਨ‑ਗ੍ਰੇਡ ਸੇਵਾ ਵਿੱਚ ਬਦਲਦੇ ਹਾਂ। ਇਹ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ ਸੱਚਮੁੱਚ ਚਮਕਦਾ ਹੈ। ਟੀਚਾ: ਮਾਡਲ ਨੂੰ ਮਜ਼ਬੂਤ, ਨਿਰੀਖਣਯੋਗ ਅਤੇ ਬਿਨਾਂ ਡਾਊਨਟਾਈਮ ਅੱਪਡੇਟ ਕਰਨ ਵਿੱਚ ਆਸਾਨ ਬਣਾਉਣਾ।
ਮਾਈਕ੍ਰੋਸਰਵਿਸ ਆਰਕੀਟੈਕਚਰ
ਮਾਡਲ ਨੂੰ REST API ਵਿੱਚ ਲਪੇਟੋ (Flask, FastAPI, ਜਾਂ ਕੋਈ ਮੈਨੇਜਡ ਐਂਡਪੌਇੰਟ ਵਰਤੋ ਜਿਵੇਂ AWS SageMaker ਐਂਡਪੁਆਇੰਟਸ)। feature engineering, inference ਅਤੇ post‑processing ਨੂੰ ਵੱਖਰੀਆਂ ਸੇਵਾਵਾਂ ਵਿੱਚ ਵੰਡੋ। ਇਹ ਸੁਤੰਤਰ scaling ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ। ਅਸੀਂ ਸਭ ਕੁਝ Docker ਨਾਲ containerize ਕਰਦੇ ਹਾਂ ਅਤੇ Kubernetes ਨਾਲ orchestrate ਕਰਦੇ ਹਾਂ, ਤਾਂ ਜੋ ਹਰ ਹਿੱਸਾ ਦੂਜਿਆਂ ਨੂੰ ਛੂਹੇ ਬਿਨਾਂ ਅੱਪਡੇਟ ਕੀਤਾ ਜਾ ਸਕੇ।
ਡਾਟਾ ਪਾਈਪਲਾਈਨ ਆਟੋਮੇਸ਼ਨ
ਪਾਇਲਟ ਨੇ ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਸਥਿਰ CSV ਫਾਈਲਾਂ ਵਰਤੀਆਂ। ਪ੍ਰੋਡਕਸ਼ਨ ਲਈ, ਇਸ ਵਰਗੇ ਟੂਲਾਂ ਨਾਲ ਫੀਚਰ ਐਕਸਟਰੈਕਸ਼ਨ ਨੂੰ ਸਵੈਚਾਲਿਤ ਕਰੋ Apache Kafka (streaming) or Airflow (ਬੈਚ)। ਫੀਚਰ ਸਟੋਰਾਂ ਦੀ ਵਰਤੋਂ ਕਰੋ (ਜਿਵੇਂ, Feast) ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਕਿ ਸਿਖਲਾਈ ਅਤੇ serving ਇੱਕੋ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਵਰਤਣ। feature store ਗਣਿਤ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਵੀ cache ਕਰਦਾ ਹੈ ਤਾਂ ਜੋ ਔਨਲਾਈਨ ਭਵਿੱਖਬਾਣੀਆਂ ਕੱਚੇ ਡੇਟਾ warehouses ਨੂੰ ਵਾਰ-ਵਾਰ ਨਾ ਛੂਹਣ — ਘੱਟ latency ਲਈ ਅਹਿਮ। ਇੱਕ fintech ਗਾਹਕ ਲਈ, nightly batch extract ਤੋਂ Kafka streaming ਨਾਲ Feast online store ਵੱਲ ਜਾਣ ਨਾਲ feature computation latency 800ms ਤੋਂ 30ms ਹੋ ਗਈ, real-time ਧੋਖਾਧੜੀ ਪਛਾਣ ਲਈ ਵੱਡੀ ਜਿੱਤ।
CI/CD for ML Models
ਆਪਣੇ ਮਾਡਲ ਨੂੰ ਸਾਫਟਵੇਅਰ ਆਰਟੀਫੈਕਟ ਵਾਂਗ ਸਮਝੋ। ਵਰਤੋ Kubeflow or MLflow Pipelines ਮੁੜ-ਸਿਖਲਾਈ, ਜਾਂਚ ਅਤੇ ਤੈਨਾਤੀ ਨੂੰ ਆਟੋਮੇਟ ਕਰਨ ਲਈ। ਹਰ ਮਾਡਲ ਸੰਸਕਰਣ ਨੂੰ ਏਕੀਕਰਨ ਜਾਂਚਾਂ ਵਿੱਚੋਂ ਲੰਘਣਾ ਚਾਹੀਦਾ ਹੈ (ਲੇਟੈਂਸੀ 200ms ਤੋਂ ਘੱਟ, ਕੋਈ NaN ਆਉਟਪੁੱਟ ਨਹੀਂ, ਆਉਟਪੁੱਟ ਆਕਾਰ ਨਿਰਧਾਰਨ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੋਵੇ)। ਅਸੀਂ ਇੱਕ ਪ੍ਰਮਾਣਿਕਤਾ ਪੜਾਅ ਵੀ ਜੋੜਦੇ ਹਾਂ ਜੋ ਹੋਲਡ-ਆਊਟ ਡਾਟਾਸੈੱਟ ਉੱਤੇ ਉਮੀਦਵਾਰ ਮਾਡਲ ਦੇ ਪ੍ਰਦਰਸ਼ਨ ਦੀ ਮੌਜੂਦਾ ਪ੍ਰੋਡਕਸ਼ਨ ਮਾਡਲ ਨਾਲ ਤੁਲਨਾ ਕਰਦਾ ਹੈ। ਜੇ ਇਹ ਟੀਚਾ KPI ਘੱਟੋ-ਘੱਟ 1% ਨਹੀਂ ਸੁਧਾਰਦਾ, ਤਾਂ ਪਾਈਪਲਾਈਨ ਇਸਨੂੰ ਆਪਣੇ ਆਪ ਰੱਦ ਕਰ ਦਿੰਦੀ ਹੈ ਅਤੇ ਟੀਮ ਨੂੰ ਸੁਚੇਤ ਕਰਦੀ ਹੈ।
ਨਿਗਰਾਨੀ & ਡ੍ਰਿਫਟ ਡਿਟੈਕਸ਼ਨ
ਇੱਕ ਵਾਰ ਤਾਇਨਾਤ ਹੋਣ ’ਤੇ, ਚੀਜ਼ਾਂ ਬਦਲਦੀਆਂ ਹਨ। ਡਾਟਾ ਡ੍ਰਿਫਟ, ਸੰਕਲਪ ਡ੍ਰਿਫਟ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀਆਂ ਅਸਫਲਤਾਵਾਂ ਹੁੰਦੀਆਂ ਹਨ। ਵਰਤੋ Evidently AI or WhyLabs ਮਾਡਲ ਇਨਪੁੱਟ ਅਤੇ ਆਉਟਪੁੱਟ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਲਈ। ਮੈਂ ਆਮ ਤੌਰ ਉੱਤੇ ਹਰ ਫੀਚਰ ਲਈ Population Stability Index (PSI) ਦੀ ਸੀਮਾ 0.1 ਰੱਖਦਾ ਹਾਂ; ਜੇ ਇਹ ਲਗਾਤਾਰ ਤਿੰਨ ਘੰਟੇ ਪਾਰ ਹੋ ਜਾਵੇ, ਤਾਂ ਆਟੋਮੇਟਿਡ ਮੁੜ-ਸਿਖਲਾਈ ਸ਼ੁਰੂ ਹੋ ਜਾਂਦੀ ਹੈ। ਅਸੀਂ ਵਪਾਰਕ KPI ਦੀ ਸਿੱਧੀ ਨਿਗਰਾਨੀ ਵੀ ਕਰਦੇ ਹਾਂ—ਚਰਨ ਪੂਰਵ-ਅਨੁਮਾਨ ਮਾਡਲ ਲਈ, ਅਸੀਂ ਅਸਲ ਚਰਨ ਦਰ ਬਨਾਮ ਅਨੁਮਾਨਿਤ ਸੰਭਾਵਨਾਵਾਂ ਰੋਜ਼ ਦੇਖਦੇ ਹਾਂ। ਜਦੋਂ ਅੰਤਰ 2% ਪੂਰਨ ਅੰਕ ਪਾਰ ਕਰ ਜਾਵੇ, ਤਾਂ ਇਹ ਜਾਂਚ ਦਾ ਸੰਕੇਤ ਹੈ।
Real‑world example: ਜਿਸ ਫਿਨਟੈਕ ਗਾਹਕ ਨਾਲ ਅਸੀਂ ਕੰਮ ਕੀਤਾ ਉਹ ਇਸ ਵਿਧੀ ਨਾਲ ਅਨਿਯਮਿਤ ਪਾਇਲਟ ਤੋਂ ਪ੍ਰੋਡਕਸ਼ਨ ਸਿਸਟਮ ਵੱਲ ਵਧਿਆ। ਉਨ੍ਹਾਂ ਦੇ ਮਾਡਲ ਦੀ ਇਨਫਰੈਂਸ ਲੇਟੈਂਸੀ 1.2 ਸਕਿੰਟ ਤੋਂ ਘਟ ਕੇ 180 ms ਹੋ ਗਈ, ਅਤੇ ਰੀਟ੍ਰੇਨਿੰਗ ਸਮਾਂ ਦੋ ਹਫ਼ਤਿਆਂ ਤੋਂ ਘਟ ਕੇ ਦੋ ਘੰਟੇ ਹੋ ਗਿਆ। ਇਸ ਬਦਲਾਅ ਨਾਲ ਉਹ ਛੇ ਮਹੀਨਿਆਂ ਦੀ ਬਜਾਏ ਪੰਜ ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਨਵੀਂ ਕਾਰਡ ਧੋਖਾਧੜੀ ਪਛਾਣ ਵਿਸ਼ੇਸ਼ਤਾ ਲਾਂਚ ਕਰ ਸਕੇ, ਜਿਸ ਨਾਲ ਸਾਲਾਨਾ ਅੰਦਾਜ਼ਨ $1.2M ਦਾ ਨੁਕਸਾਨ ਰੁਕਿਆ।
ਤੁਲਨਾ: ਪਰੰਪਰਾਗਤ Ad-Hoc vs. ਸਾਡੀ AI ਤੈਨਾਤੀ ਵਿਧੀ
| Aspect | Traditional Ad‑Hoc | DG10 AI ਤਾਇਨਾਤੀ ਵਿਧੀ |
|---|---|---|
| ਪਾਇਲਟ ਤੋਂ ਉਤਪਾਦਨ ਤੱਕ ਦਾ ਸਮਾਂ | 6–12 months | 4–8 weeks |
| ਮਾਡਲ ਅਸਫਲਤਾ ਦਰ (ਪਹਿਲੇ 90 ਦਿਨ) | ~50% | <15% |
| Scaling difficulty | ਉੱਚ – ਮੈਨੂਅਲ ਰੀ‑ਇੰਜੀਨੀਅਰਿੰਗ | ਘੱਟ – ਮਾਈਕ੍ਰੋਸਰਵਿਸਿਜ਼ 'ਤੇ ਬਣਿਆ |
| Monitoring | ਅਸਫਲਤਾ ਤੋਂ ਬਾਅਦ ਤੱਕ ਕੋਈ ਨਹੀਂ | ਸਰਗਰਮ ਡ੍ਰਿਫਟ ਅਤੇ ਪ੍ਰਦਰਸ਼ਨ ਚੇਤਾਵਨੀਆਂ |
| Retraining cycle | ਐਡ‑ਹਾਕ, ਅਕਸਰ ਮਹੀਨੇ | ਸਵੈਚਾਲਿਤ, ਹਫ਼ਤਾਵਾਰੀ ਜਾਂ ਮੰਗ 'ਤੇ |
| Feature consistency | ਸਿਖਲਾਈ ਬਨਾਮ ਸਰਵਿੰਗ ਡ੍ਰਿਫਟ | ਫੀਚਰ ਸਟੋਰ ਰਾਹੀਂ ਗਾਰੰਟੀਸ਼ੁਦਾ |
| Rollback capability | ਆਮ ਤੌਰ 'ਤੇ ਮੈਨੂਅਲ, ਘੰਟੇ | ਇੱਕ-ਕਲਿੱਕ ਕੈਨਰੀ ਰੋਲਬੈਕ, ਮਿੰਟਾਂ ਵਿੱਚ |
| Team efficiency | ਡਾਟਾ ਵਿਗਿਆਨੀ ਕੰਮ ਦੁਬਾਰਾ ਕਰਦੇ ਹਨ | ਪਾਇਲਟ ਤੋਂ ਫੁੱਲ-ਸਟੈਕ ਸਹਿਯੋਗ |
| ਉਤਪਾਦਨ ਤੱਕ ਕੁੱਲ ਲਾਗਤ | High due to rework | ਘੱਟ (ਪ੍ਰਤੀ ਪ੍ਰੋਜੈਕਟ 40% ਤੱਕ ਬੱਚਤ) |
30+ ਐਂਟਰਪ੍ਰਾਈਜ਼ਾਂ ਤੋਂ ਇਕੱਠੇ ਗੁਮਨਾਮ ਮਾਪਦੰਡਾਂ 'ਤੇ ਅਧਾਰਿਤ ਡਾਟਾ ਜਿਨ੍ਹਾਂ ਦੀ ਅਸੀਂ ਮਦਦ ਕੀਤੀ (2022–2025)।
ਪੜਾਅ 3: ਤੈਨਾਤ & ਨਿਗਰਾਨੀ ਕਰੋ
ਮਾਡਲ ਪੈਕ ਹੋਣ ਅਤੇ ਪਾਈਪਲਾਈਨਾਂ ਤਿਆਰ ਹੋਣ ਨਾਲ, ਹੁਣ ਅੰਤਿਮ ਜ਼ੋਰ ਲਗਾਉਣ ਦਾ ਸਮਾਂ ਹੈ।
Canary Deployments
ਨਵੇਂ ਮਾਡਲ ਵੱਲ 5% ਟ੍ਰੈਫਿਕ ਭੇਜੋ। ਪੁਰਾਣੇ ਮਾਡਲ ਜਾਂ ਹਿਊਰਿਸਟਿਕ ਨਾਲ ਮੁੱਖ ਕਾਰੋਬਾਰੀ ਮਾਪਦੰਡਾਂ (ਜਿਵੇਂ ਪਰਿਵਰਤਨ ਦਰ, ਹੱਲ ਸਮਾਂ) ਦੀ ਤੁਲਨਾ ਕਰੋ। ਜੇ ਸਭ ਠੀਕ ਲੱਗੇ ਤਾਂ 50% ਫਿਰ 100% ਤੱਕ ਵਧਾਓ। Tools like Argo Rollouts ਜਾਂ AWS CodeDeploy ਇਸ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ। ਇੱਕ ਟਰੈਵਲ ਪ੍ਰਾਈਸਿੰਗ ਗਾਹਕ ਲਈ, ਅਸੀਂ ਅਸਲ ਬੁਕਿੰਗਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦੇ ਹੋਏ ਦੋ ਹਫ਼ਤਿਆਂ ਤੱਕ 10% ਕਨੈਰੀ ਚਲਾਈ। ਨਵੇਂ ਮਾਡਲ ਨੇ ਬਿਨਾਂ ਕਿਸੇ ਬੁਕਿੰਗ ਗਲਤੀ ਦੇ 6.8% ਆਮਦਨ ਵਾਧਾ ਦਿੱਤਾ, ਇਸ ਲਈ ਅਸੀਂ ਭਰੋਸੇ ਨਾਲ ਇੱਕ ਘੰਟੇ ਤੋਂ ਘੱਟ ਸਮੇਂ ਵਿੱਚ 100% ਰੋਲਆਊਟ ਕਰ ਦਿੱਤਾ।
A/B ਟੈਸਟਿੰਗ ਅਤੇ ਪ੍ਰਯੋਗ
ਸਧਾਰਨ ਕੈਨਰੀ ਤੋਂ ਅੱਗੇ ਵਧੋ। ਸੰਰਚਿਤ A/B ਟੈਸਟ ਚਲਾਓ ਜਿੱਥੇ ਇੱਕ ਸਮੂਹ AI ਮਾਡਲ ਦੇ ਫੈਸਲੇ ਦੇਖਦਾ ਹੈ ਅਤੇ ਦੂਜਾ ਪੁਰਾਣਾ ਹਿਊਰਿਸਟਿਕ ਦੇਖਦਾ ਹੈ। ਸਿਰਫ਼ ਕਲਿੱਕ-ਥਰੂ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਖਰੀਦ ਪੂਰੀ ਹੋਣ ਜਾਂ ਸਹਾਇਤਾ ਵਧਣ ਵਰਗੇ ਡਾਊਨਸਟ੍ਰੀਮ ਨਤੀਜਿਆਂ ਨੂੰ ਮਾਪੋ। ਇੱਕ ਈ-ਕਾਮਰਸ ਗਾਹਕ ਨੇ A/B ਰਾਹੀਂ ਦੋ ਸਿਫਾਰਸ਼ ਰਣਨੀਤੀਆਂ ਪਰਖੀਆਂ, ਅਤੇ ਜੇਤੂ ਰੂਪ ਨੇ ਐਡ-ਟੂ-ਕਾਰਟ ਦਰ ਵਿੱਚ 12% ਸੁਧਾਰ ਕੀਤਾ। ਇਹ ਬੰਦ-ਲੂਪ ਪ੍ਰਯੋਗ ਸਾਡੀ ਤੈਨਾਤੀ ਵਿਧੀ ਵਿੱਚ ਸ਼ਾਮਲ ਹੈ ਕਿਉਂਕਿ ਉਤਪਾਦਨ ਵਿੱਚ ਮਾਡਲ ਕਦੇ ਵੀ ਸੱਚਮੁੱਚ “ਪੂਰਾ” ਨਹੀਂ ਹੁੰਦਾ।
Feedback Loops
ਉਤਪਾਦਨ ਕਦੇ ਅੰਤ ਨਹੀਂ ਹੁੰਦਾ। AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ ਵਿੱਚ ਇੱਕ ਬੰਦ-ਲੂਪ ਸ਼ਾਮਲ ਹੈ: ਉਪਭੋਗਤਾ ਫੀਡਬੈਕ ਜਾਂ ਵਿਵਹਾਰਕ ਡਾਟਾ ਇਕੱਠਾ ਕਰੋ, ਮਾਡਲ ਭਵਿੱਖਬਾਣੀਆਂ ਨਾਲ ਤੁਲਨਾ ਕਰੋ, ਅਤੇ ਪ੍ਰਦਰਸ਼ਨ ਘਟਣ ’ਤੇ ਮੁੜ-ਸਿਖਲਾਈ ਚਾਲੂ ਕਰੋ। ਉਦਾਹਰਨ ਲਈ, ਜੇ ਚੈਟਬੋਟ ਦੀ ਹੱਲ ਦਰ 70% ਤੋਂ ਹੇਠਾਂ ਡਿੱਗ ਜਾਵੇ, ਤਾਂ ਇਸ ਨੂੰ ਪਿਛਲੇ ਹਫ਼ਤੇ ਦੀਆਂ ਗੱਲਬਾਤਾਂ ’ਤੇ ਆਪਣੇ ਆਪ ਮੁੜ ਸਿਖਲਾਈ ਦਿਓ। ਹਰ ਭਵਿੱਖਬਾਣੀ ਅਤੇ ਨਤੀਜਾ ਲੌਗ ਕਰੋ, ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਫੀਚਰ ਸਟੋਰ ਵਿੱਚ ਵਾਪਸ ਭੇਜੋ ਤਾਂ ਜੋ ਅਗਲਾ ਸਿਖਲਾਈ ਚੱਕਰ ਨਵੀਨਤਮ ਹਕੀਕਤ ਨੂੰ ਦਰਸਾਏ।
ਰਨਬੁੱਕ & ਰੋਲਬੈਕ ਯੋਜਨਾ
ਹਰ ਮਾਡਲ ਡਿਪਲੌਇਮੈਂਟ ਵਿੱਚ ਇੱਕ-ਕਲਿੱਕ ਰੋਲਬੈਕ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਬਿਲਕੁਲ ਦਸਤਾਵੇਜ਼ ਬਣਾਓ ਕਿ ਕੀ ਜਾਂਚਣਾ ਹੈ: ਲੌਗ, ਮੈਟ੍ਰਿਕਸ, ਕਾਰੋਬਾਰੀ KPI। ਮੈਂ ਸਾਰੇ ਗਾਹਕਾਂ ਤੋਂ “ਗੇਮ ਡੇ” ਚਲਾਉਣ ਦੀ ਮੰਗ ਕਰਦਾ ਹਾਂ ਜਿੱਥੇ ਉਹ ਮਾਡਲ ਅਸਫਲਤਾ ਦਾ ਅਭਿਆਸ ਕਰਦੇ ਹਨ ਅਤੇ ਰਿਕਵਰੀ ਦਾ ਅਭਿਆਸ ਕਰਦੇ ਹਨ। ਜਿਨ੍ਹਾਂ ਟੀਮਾਂ ਨੇ ਇਹ ਕੀਤਾ ਹੈ ਉਹ ਤਿੰਨ ਮਿੰਟਾਂ ਤੋਂ ਘੱਟ ਵਿੱਚ ਸੇਵਾ ਬਹਾਲ ਕਰਦੀਆਂ ਹਨ; ਜਿਨ੍ਹਾਂ ਨੇ ਨਹੀਂ ਕੀਤਾ ਉਨ੍ਹਾਂ ਨੂੰ ਅਕਸਰ ਘੰਟੇ ਲੱਗਦੇ ਹਨ। ਰਨਬੁੱਕ ਸ਼ਾਂਤੀ ਬਚਾਉਂਦੀ ਹੈ।
ਡੂੰਘੀ ਕੇਸ ਸਟੱਡੀ: ਫਿਨਟੈਕ ਧੋਖਾਧੜੀ ਖੋਜ 6 ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਉਤਪਾਦਨ ਵਿੱਚ ਗਈ
ਮੈਨੂੰ ਅਸਲ ਸ਼ਮੂਲੀਅਤ ਵਿੱਚ ਲਿਜਾਣ ਦਿਓ ਜੋ ਵਿਧੀ ਨੂੰ ਕਾਰਜ ਵਿੱਚ ਦਿਖਾਉਂਦੀ ਹੈ। ਇੱਕ ਯੂਰਪੀ ਫਿਨਟੈਕ (ਮੈਂ ਉਨ੍ਹਾਂ ਨੂੰ SecureFlow ਕਹਾਂਗਾ) ਇੱਕ ਵਾਅਦਾ ਕਰਨ ਵਾਲੇ ਧੋਖਾਧੜੀ ਪਛਾਣ ਪਾਇਲਟ ਤੋਂ ਬਾਅਦ ਸਾਡੇ ਕੋਲ ਆਈ। ਉਨ੍ਹਾਂ ਦੇ ਮਾਡਲ ਨੇ ਔਫਲਾਈਨ ਜਾਂਚਾਂ ਵਿੱਚ 0.1% ਗਲਤ ਸਕਾਰਾਤਮਕ ਦਰ ਨਾਲ 94% ਰੀਕਾਲ ਹਾਸਲ ਕੀਤਾ, ਪਰ ਪਾਇਲਟ ਸਥਿਰ ਇਤਿਹਾਸਕ ਡੇਟਾ ਅਤੇ ਇੱਕਲੀ Python ਸਕ੍ਰਿਪਟ 'ਤੇ ਚੱਲਿਆ। ਉਨ੍ਹਾਂ ਨੂੰ ਇਸਨੂੰ ਲਾਈਵ ਚਾਹੀਦਾ ਸੀ, 200ms ਤੋਂ ਘੱਟ ਲੇਟੈਂਸੀ ਨਾਲ ਪ੍ਰਤੀ ਸਕਿੰਟ 5,000 ਲੈਣ-ਦੇਣ ਪ੍ਰੋਸੈਸ ਕਰਨਾ, ਅਤੇ ਉਹ ਬੰਦ ਦਾ ਖਰਚ ਨਹੀਂ ਚੁੱਕ ਸਕਦੇ ਸਨ।
ਅਸੀਂ DG10 AI ਤਾਇਨਾਤੀ ਫ਼ਰੇਮਵਰਕ ਲਾਗੂ ਕੀਤਾ:
- Phase 1 (1 week): ਅਸੀਂ ਕਾਰੋਬਾਰੀ KPI ਸਪੱਸ਼ਟ ਕੀਤਾ: ਘੱਟੋ-ਘੱਟ 80% ਧੋਖਾਧੜੀ ਵਾਲੇ ਲੈਣ-ਦੇਣ ਰੋਕਣੇ ਜਦੋਂ ਕਿ ਗਲਤ ਪਾਜ਼ਿਟਿਵ 0.5% ਤੋਂ ਘੱਟ ਰੱਖਣੇ। ਪਾਇਲਟ ਬੇਸਲਾਈਨ ਇਸ ਉੱਤੇ ਪੂਰੀ ਉਤਰੀ, ਪਰ k6 ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਸਾਡੇ ਮਿੰਨੀ-ਪ੍ਰੋਡਕਸ਼ਨ ਸਿਮੂਲੇਸ਼ਨ ਨੇ ਦਿਖਾਇਆ ਕਿ 500 ਸਮਕਾਲੀ ਬੇਨਤੀਆਂ ਹੇਠ ਮਾਡਲ ਦੀ ਲੇਟੈਂਸੀ 800ms ਤੱਕ ਵਧ ਗਈ ਅਤੇ ਮੈਮੋਰੀ ਵਰਤੋਂ 4GB ਤੱਕ ਪਹੁੰਚ ਗਈ। ਅਸੀਂ ਪਛਾਣਿਆ ਕਿ ਫ਼ੀਚਰ ਇੰਜੀਨੀਅਰਿੰਗ ਪੜਾਅ ਰੁਕਾਵਟ ਸੀ — ਇਹ ਸਥਾਨ ਡੇਟਾ ਲਈ ਥਰਡ-ਪਾਰਟੀ API ਨੂੰ ਸਿੰਕ੍ਰੋਨਸ ਤੌਰ ਉੱਤੇ ਕਾਲ ਕਰਦਾ ਸੀ।
- Phase 2 (3 weeks): ਅਸੀਂ ਸਰਵਿੰਗ ਆਰਕੀਟੈਕਚਰ ਦੁਬਾਰਾ ਬਣਾਇਆ। ਫ਼ੀਚਰ ਇੰਜੀਨੀਅਰਿੰਗ Redis ਕੈਸ਼ ਵਾਲੀ ਅਸਿੰਕ Kafka ਸਟ੍ਰੀਮ ਉੱਤੇ ਚਲੀ ਗਈ। ਮਾਡਲ ਨੂੰ ਕੰਟੇਨਰਾਈਜ਼ ਕੀਤਾ ਗਿਆ ਅਤੇ ਲੋਡ ਬੈਲੈਂਸਰ ਪਿੱਛੇ FastAPI ਰਾਹੀਂ ਸਰਵ ਕੀਤਾ ਗਿਆ। ਅਸੀਂ Feast ਫ਼ੀਚਰ ਸਟੋਰ ਲਾਗੂ ਕੀਤਾ ਤਾਂ ਜੋ ਸਿਖਲਾਈ ਅਤੇ ਸਰਵਿੰਗ ਵਿੱਚ ਇੱਕੋ ਜਿਹੇ ਫ਼ੀਚਰ ਸੈੱਟ ਵਰਤੇ ਜਾਣ। Kubeflow ਵਿੱਚ CI/CD ਪਾਈਪਲਾਈਨਾਂ ਹਰ ਨਵੇਂ ਮਾਡਲ ਸੰਸਕਰਣ ਦੀ ਆਟੋਮੈਟਿਕ ਜਾਂਚ ਕਰਦੀਆਂ ਸਨ। Evidently AI ਰਾਹੀਂ ਨਿਗਰਾਨੀ ਇਨਪੁਟ ਫ਼ੀਚਰ ਵੰਡ ਅਤੇ 7-ਦਿਨ ਦੇ ਹੋਲਡਆਊਟ ਸੈੱਟ ਦੇ ਮੁਕਾਬਲੇ ਮਾਡਲ ਸ਼ੁੱਧਤਾ ਨੂੰ ਟਰੈਕ ਕਰਦੀ ਸੀ।
- Phase 3 (2 weeks): ਕੈਨਰੀ ਤੈਨਾਤੀ 5% ਟ੍ਰੈਫਿਕ ਤੇ ਸ਼ੁਰੂ ਹੋਈ। ਅਸੀਂ ਲੇਟੈਂਸੀ 120ms p99 ਤੇ ਸਥਿਰ ਅਤੇ ਪਾਇਲਟ ਨਾਲ ਮੇਲ ਖਾਂਦੀ ਧੋਖਾਧੜੀ ਪਕੜ ਦਰ ਦੇਖੀ। ਦੋ ਹਫ਼ਤਿਆਂ ਦੇ A/B ਟੈਸਟ ਨੇ ਦਿਖਾਇਆ ਕਿ ਮਾਡਲ ਧੋਖਾਧੜੀ ਦੀਆਂ 21% ਕੋਸ਼ਿਸ਼ਾਂ ਰੋਕ ਰਿਹਾ ਸੀ (ਪੁਰਾਣੇ ਨਿਯਮ-ਅਧਾਰਤ ਸਿਸਟਮ ਲਈ 8% ਦੇ ਮੁਕਾਬਲੇ) ਜਦੋਂ ਕਿ ਗ਼ਲਤ ਸਕਾਰਾਤਮਕ 0.12% ਰੱਖੇ। ਰੋਲਬੈਕ ਸਕ੍ਰਿਪਟਾਂ ਦਾ ਗੇਮ ਡੇਅ ਵਿੱਚ ਅਭਿਆਸ ਕੀਤਾ ਗਿਆ; ਰਿਕਵਰੀ ਵਿੱਚ 2 ਮਿੰਟ 18 ਸਕਿੰਟ ਲੱਗੇ। ਪੂਰੀ ਪ੍ਰੋਡਕਸ਼ਨ ਤੈਨਾਤੀ ਛੇਵੇਂ ਹਫ਼ਤੇ ਪੂਰੀ ਹੋਈ।
ਨਤੀਜਾ: SecureFlow ਨੇ ਪਹਿਲੇ ਤਿੰਨ ਮਹੀਨਿਆਂ ਵਿੱਚ ਅਨੁਮਾਨਿਤ €2.1M ਧੋਖਾਧੜੀ ਨੁਕਸਾਨ ਰੋਕਿਆ। ਮਾਡਲ ਮੁੜ-ਸਿਖਲਾਈ ਹੁਣ ਹਫ਼ਤਾਵਾਰੀ ਚਲਦੀ ਹੈ, 0.08 ਦੇ PSI ਡ੍ਰਿਫਟ ਥ੍ਰੈਸ਼ਹੋਲਡ ਦੁਆਰਾ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ। ਇਹੀ ਇੱਕ ਢਾਂਚਾਗਤ ਹੈ AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ: ਸਿਰਫ਼ ਕੰਮ ਕਰਦਾ ਮਾਡਲ ਹੀ ਨਹੀਂ, ਬਲਕਿ ਇੱਕ ਭਰੋਸੇਯੋਗ, ਵਿਕਸਤ ਹੁੰਦਾ ਸਿਸਟਮ ਜੋ ਆਪਣੀ ਲਾਗਤ ਕਈ ਗੁਣਾ ਵਸੂਲਦਾ ਹੈ।
ਅਸਲ-ਦੁਨੀਆ ਦੀ ਸਫਲਤਾ: Netflix ਅਤੇ ਇਸ ਤੋਂ ਅੱਗੇ
Netflix ਆਪਣੀ ਸਿਫਾਰਸ਼ ਪ੍ਰਣਾਲੀ ਲਈ ਮਸ਼ਹੂਰ ਹੈ, ਪਰ ਉਹ ਸਮੱਗਰੀ ਵੰਡ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ਲਈ ML ਦੀ ਵਰਤੋਂ ਵੀ ਕਰਦੇ ਹਨ। ਉਨ੍ਹਾਂ ਦਾ ਤਰੀਕਾ—ਕੈਨਰੀ ਤੈਨਾਤੀਆਂ, ਨਿਰੰਤਰ A/B ਜਾਂਚ ਅਤੇ ਸਵੈਚਲਿਤ ਰੋਲਬੈਕ— AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ ਜਿਸ ਦੀ ਅਸੀਂ ਵਕਾਲਤ ਕਰਦੇ ਹਾਂ। ਉਹ ਰਾਤੋ-ਰਾਤ ਉੱਥੇ ਨਹੀਂ ਪਹੁੰਚੇ; ਉਹ ਮੈਨੂਅਲ ਪਾਇਲਟਾਂ ਤੋਂ ਇੱਕ ਸੂਝਵਾਨ MLOps ਪਲੇਟਫਾਰਮ ਤੱਕ ਵਿਕਸਿਤ ਹੋਏ।
ਤੁਹਾਨੂੰ ਲਾਭ ਲਈ Netflix ਦੇ ਪੈਮਾਨੇ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ। ਇੱਕ ਦਰਮਿਆਨੇ ਆਕਾਰ ਦੇ ਈ‑ਕਾਮਰਸ ਗਾਹਕ ਜਿਸ ਨਾਲ ਅਸੀਂ ਕੰਮ ਕੀਤਾ, ਨੇ ਇਸ ਫਰੇਮਵਰਕ ਨਾਲ ਛੇ ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਉਤਪਾਦ ਸਿਫਾਰਸ਼ ਮਾਡਲ ਤੈਨਾਤ ਕੀਤਾ। ਉਨ੍ਹਾਂ ਦੇ AI ਪਾਇਲਟ ਨੇ ਐਡ‑ਟੂ‑ਕਾਰਟ ਦਰਾਂ ਵਿੱਚ 12% ਵਾਧਾ ਦਿਖਾਇਆ ਸੀ — ਅਤੇ ਉਤਪਾਦਨ ਵਿੱਚ ਆਉਣ ਤੋਂ ਬਾਅਦ, ਉਹ ਵਾਧਾ ਤਿੰਨ ਮਹੀਨਿਆਂ ਬਾਅਦ ਜ਼ੀਰੋ ਆਊਟੇਜ ਨਾਲ 11.7% ਉੱਤੇ ਸਥਿਰ ਰਿਹਾ। ਇੱਕ ਹੋਰ ਗਾਹਕ, ਇੱਕ ਔਨਲਾਈਨ ਟਰੈਵਲ ਏਜੰਸੀ, ਨੇ ਗਤੀਸ਼ੀਲ ਕੀਮਤ ਮਾਡਲ ਲਾਂਚ ਕਰਨ ਲਈ ਇਸ ਵਿਧੀ ਦੀ ਵਰਤੋਂ ਕੀਤੀ। ਪਾਇਲਟ ਨੇ 7% ਮਾਲੀਆ ਵਾਧੇ ਦਾ ਸੰਕੇਤ ਦਿੱਤਾ; ਉਤਪਾਦਨ ਵਿੱਚ, ਨਿਰੰਤਰ A/B ਟਿਊਨਿੰਗ ਨਾਲ, ਅਸਲ ਵਾਧਾ ਛੇ ਮਹੀਨਿਆਂ ਬਾਅਦ 6.9% ਉੱਤੇ ਸਥਿਰ ਹੋਇਆ — ਜੋ ਆਸਾਨੀ ਨਾਲ $800K ਵਾਧੂ ਸਾਲਾਨਾ ਮਾਲੀਏ ਵਿੱਚ ਬਦਲਦਾ ਹੈ।
ਇਹ ਨਤੀਜੇ ਕਿਸਮਤ ਨਹੀਂ ਹਨ। ਇਹ ਦੁਹਰਾਉਣਯੋਗ ਵਿਧੀ ਨੂੰ ਲਗਨ ਨਾਲ ਲਾਗੂ ਕਰਨ ਤੋਂ ਆਉਂਦੇ ਹਨ ਜੋ ਡੇਟਾ ਸਾਇੰਸ ਨੂੰ ਕਾਰੋਬਾਰੀ ਨਤੀਜਿਆਂ ਨਾਲ ਜੋੜਦੀ ਹੈ ਅਤੇ ਪ੍ਰੋਡਕਸ਼ਨ ਨੂੰ ਮੁੱਖ ਘਟਨਾ ਮੰਨਦੀ ਹੈ, ਬਾਅਦ ਦੀ ਸੋਚ ਨਹੀਂ।
ਪ੍ਰੋਡਕਸ਼ਨ-ਤਿਆਰ AI ਡਿਪਲਾਇਮੈਂਟ ਵਿਧੀ ਲਈ ਤਕਨਾਲੋਜੀ ਸਟੈਕ
ਕਾਰਜ‑ਵਿਧੀ ਉਨ੍ਹਾਂ ਹੀ ਚੰਗੀ ਹੁੰਦੀ ਹੈ ਜਿੰਨੇ ਚੰਗੇ ਉਹ ਟੂਲ ਜੋ ਇਸਨੂੰ ਲਾਗੂ ਕਰਦੇ ਹਨ। ਹਾਲਾਂਕਿ ਹਰ ਸਟੈਕ ਵੱਖਰਾ ਹੁੰਦਾ ਹੈ, ਮੈਂ ਇੱਕ ਮੁੱਖ ਟੂਲਕਿੱਟ ਇਕੱਠੀ ਕਰਨ ਦੀ ਸਿਫਾਰਸ਼ ਕਰਦਾ ਹਾਂ ਜੋ MLOps ਦੇ ਚਾਰ ਥੰਮ੍ਹਾਂ ਨੂੰ ਕਵਰ ਕਰੇ:
- ਪ੍ਰਯੋਗ ਟ੍ਰੈਕਿੰਗ & ਮਾਡਲ ਰਜਿਸਟਰੀ: MLflow, Weights & Biases
- ਤਾਲਮੇਲ & ਪਾਈਪਲਾਈਨਾਂ: Kubeflow, Airflow, ਜਾਂ Prefect
- Feature store: Feast or Tecton
- Model serving: FastAPI, KServe, Seldon Core, ਜਾਂ SageMaker ਐਂਡਪੁਆਇੰਟ
- CI/CD for ML: MLflow ਪਾਈਪਲਾਈਨਾਂ ਨਾਲ GitHub Actions, ਜਾਂ GitLab CI
- ਨਿਗਰਾਨੀ & ਡ੍ਰਿਫਟ ਡਿਟੈਕਸ਼ਨ: Evidently AI, WhyLabs, Prometheus + Grafana
- ਕੋਡ ਵਜੋਂ ਬੁਨਿਆਦੀ ਢਾਂਚਾ: Terraform or Pulumi
ਇਹ ਸਟੈਕ, ਜਦੋਂ ਸਾਡੀ ਡਿਪਲਾਇਮੈਂਟ ਵਿਧੀ ਹੇਠ ਇਕੱਠਾ ਜੋੜਿਆ ਜਾਂਦਾ ਹੈ, ਇੱਕ ਸਵੈ-ਚੰਗਾ ਕਰਨ ਵਾਲਾ ਲੂਪ ਬਣਾਉਂਦਾ ਹੈ ਜਿੱਥੇ ਮਾਡਲਾਂ ਨੂੰ ਲਗਾਤਾਰ ਮੁੜ-ਸਿਖਲਾਈ, ਟੈਸਟ ਅਤੇ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਅੱਗੇ ਵਧਾਇਆ ਜਾਂਦਾ ਹੈ। ਖੁੱਲ੍ਹੇ ਮਿਆਰਾਂ ਨੂੰ ਅਪਣਾਉਣ ਨਾਲ ਵੈਂਡਰ ਲਾਕ-ਇਨ ਤੋਂ ਬਚਿਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਤੁਹਾਡਾ AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ ਕਲਾਊਡਾਂ ਅਤੇ ਔਨ-ਪ੍ਰੇਮ ਵਾਤਾਵਰਣਾਂ ਵਿੱਚ ਪੋਰਟੇਬਲ।
ਸੰਗਠਨ ਵਿੱਚ ਤੁਹਾਡੀ AI ਤੈਨਾਤੀ ਵਿਧੀ ਨੂੰ ਸਕੇਲ ਕਰਨਾ
ਇੱਕ ਵਾਰ ਜਦੋਂ ਤੁਸੀਂ ਇੱਕ ਪ੍ਰੋਜੈਕਟ ’ਤੇ ਢਾਂਚਾ ਸਾਬਤ ਕਰ ਲਓ, ਤਾਂ ਦੁਹਰਾਅ ਮੁੱਖ ਹੈ। ਅਸੀਂ ਗਾਹਕਾਂ ਨੂੰ “production AI ਪਲੇਬੁੱਕ” ਬਣਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਾਂ — ਵਿਧੀ ਦਾ ਟੈਂਪਲੇਟੀ ਸੰਸਕਰਣ ਜਿਸਨੂੰ ਕੋਈ ਵੀ ਨਵੀਂ ਟੀਮ ਚੁੱਕ ਸਕਦੀ ਹੈ। ਇਸ ਵਿੱਚ ਸ਼ਾਮਲ ਹੈ:
- ਮਿਆਰੀ ਪ੍ਰੋਜੈਕਟ ਢਾਂਚਾ (ਪਹਿਲਾਂ‑ਸੰਰਚਿਤ CI/CD ਵਾਲਾ Git ਰਿਪੋਜ਼ਟਰੀ)
- ਫੀਚਰ ਸਟੋਰ ਸਕੀਮਾ ਅਤੇ ਪਾਈਪਲਾਈਨ ਟੈਂਪਲੇਟ
- ਕੈਨਰੀ ਤੈਨਾਤੀ ਅਤੇ ਰੋਲਬੈਕ ਲਈ ਸੁਨਹਿਰੀ ਮਾਰਗ
- ਪਹਿਲਾਂ ਤੋਂ ਪਰਿਭਾਸ਼ਿਤ ਅਲਰਟਾਂ ਵਾਲੇ ਨਿਗਰਾਨੀ ਡੈਸ਼ਬੋਰਡ
- ਡੇਟਾ ਗੋਪਨੀਯਤਾ ਅਤੇ ਮਾਡਲ ਵਿਆਖਿਆਯੋਗਤਾ ਲਈ ਸ਼ਾਸਨ ਚੈੱਕਲਿਸਟਾਂ
By scaling the AI ਤਾਇਨਾਤੀ ਕਾਰਜ‑ਵਿਧੀ ਦੁਹਰਾਉਣ ਯੋਗ ਅਭਿਆਸ ਵਜੋਂ, ਕੰਪਨੀਆਂ ਇੱਕ ਵਾਰ ਦੇ ਹੀਰੋ ਤੋਂ ਇੱਕ ਅਜਿਹੀ ਮਸ਼ੀਨ ਬਣ ਜਾਂਦੀਆਂ ਹਨ ਜਿੱਥੇ ਹਰ AI ਪਾਇਲਟ ਕੋਲ ਉਤਪਾਦਨ ਤੱਕ ਦਾ ਸਪੱਸ਼ਟ ਰਸਤਾ ਹੁੰਦਾ ਹੈ। ਸੰਬੰਧਿਤ: ਪ੍ਰੋਡਕਸ਼ਨ ਵਰਕਲੋਡ ਲਈ DeepSeek V4 Pro ਕੀਮਤ, ਡੈਸ਼ਬੋਰਡ ਜੋ ਅਧਿਕਾਰੀ ਅਸਲ ਵਿੱਚ ਵਰਤਦੇ ਹਨ, and ਭਾਰਤੀ ਕਾਰੋਬਾਰਾਂ ਲਈ WhatsApp ਚੈਟਬੌਟ. logistics ਵਿੱਚ ਇੱਕ ਗਾਹਕ ਇਸ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਨਾਲ 18 ਮਹੀਨਿਆਂ ਵਿੱਚ ਇੱਕ live ਮਾਡਲ ਤੋਂ ਸੱਤ ਤੱਕ ਪਹੁੰਚ ਗਿਆ, ਸਭ ਇੱਕੋ platform ਟੀਮ ਦੁਆਰਾ ਪ੍ਰਬੰਧਿਤ।
AI ਪਾਇਲਟ ਤੋਂ ਉਤਪਾਦਨ ਤੱਕ FAQ
1. ਜ਼ਿਆਦਾਤਰ AI ਪਾਇਲਟ ਉਤਪਾਦਨ ਤੱਕ ਕਿਉਂ ਨਹੀਂ ਪਹੁੰਚਦੇ?
ਪਾਇਲਟ ਅਲੱਗ-ਥਲੱਗ ਪ੍ਰਯੋਗਾਂ ਵਜੋਂ ਬਣਾਏ ਜਾਂਦੇ ਹਨ: ਕੋਈ ਫੀਚਰ ਸਟੋਰ ਨਹੀਂ, ਕੋਈ ਨਿਗਰਾਨੀ ਨਹੀਂ, ਕੋਈ ਰੋਲਬੈਕ ਯੋਜਨਾ ਨਹੀਂ। ਉਤਪਾਦਨ ਨੂੰ ਤਿੰਨੋਂ ਅਤੇ ਸ਼ਾਸਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ — ਉੱਪਰਲੀ ਵਿਧੀ ਉਨ੍ਹਾਂ ਨੂੰ ਪਹਿਲੇ ਪੜਾਅ ਤੋਂ ਬਣਾਉਂਦੀ ਹੈ।
2. ਪਾਇਲਟ ਤੋਂ ਉਤਪਾਦਨ ਤੱਕ ਜਾਣ ਵਿੱਚ ਕਿੰਨਾ ਸਮਾਂ ਲੱਗਦਾ ਹੈ?
ਇੱਥੇ ਦਿੱਤੇ ਪੜਾਅਵਾਰ ਤਰੀਕੇ ਨਾਲ, ਬੇਤਰਤੀਬ ਕੋਸ਼ਿਸ਼ਾਂ ਦੇ 6-12 ਮਹੀਨਿਆਂ ਦੇ ਮੁਕਾਬਲੇ 4–8 ਹਫ਼ਤੇ (ਉੱਪਰ ਦਿੱਤੀ ਤੁਲਨਾ ਸਾਰਣੀ ਵੇਖੋ)।
3. ਪ੍ਰੋਡਕਸ਼ਨ AI ਤਕਨੀਕੀ ਸਟੈਕ ਵਿੱਚ ਕੀ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ?
ਪ੍ਰਯੋਗ ਟ੍ਰੈਕਿੰਗ (MLflow), ਆਰਕੈਸਟ੍ਰੇਸ਼ਨ (Airflow), ਫੀਚਰ ਸਟੋਰ (Feast), ਸਟ੍ਰੀਮਿੰਗ (Kafka), ਸਰਵਿੰਗ (Kubeflow/SageMaker) ਅਤੇ ਪਹਿਲਾਂ ਤੋਂ ਪਰਿਭਾਸ਼ਿਤ ਅਲਰਟਾਂ ਨਾਲ ਨਿਗਰਾਨੀ।
4. ਤੁਸੀਂ ਪ੍ਰੋਡਕਸ਼ਨ ਵਿੱਚ ਮਾਡਲਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਿਵੇਂ ਕਰਦੇ ਹੋ?
ਭਵਿੱਖਬਾਣੀ ਡ੍ਰਿਫਟ, ਡਾਟਾ ਗੁਣਵੱਤਾ, ਲੇਟੈਂਸੀ ਅਤੇ ਕਾਰੋਬਾਰੀ KPI ਨੂੰ ਅਲਰਟਾਂ ਨਾਲ ਟਰੈਕ ਕਰੋ; ਚੀਜ਼ਾਂ ਟੁੱਟਣ 'ਤੇ ਨਹੀਂ, ਨਿਸ਼ਚਿਤ ਚੱਕਰ 'ਤੇ ਮੁੜ-ਸਿਖਲਾਈ ਤਹਿ ਕਰੋ।
5. ਤੁਸੀਂ ਟੀਮਾਂ ਵਿੱਚ ਤਰੀਕੇ ਨੂੰ ਕਿਵੇਂ ਵਧਾਉਂਦੇ ਹੋ?
ਇਸਨੂੰ ਉਤਪਾਦ ਬਣਾਓ: ਮਿਆਰੀ ਰੈਪੋ ਢਾਂਚਾ, ਪਾਈਪਲਾਈਨ ਟੈਂਪਲੇਟ, ਸੁਨਹਿਰੀ ਕੈਨਰੀ/ਰੋਲਬੈਕ ਮਾਰਗ, ਸਾਂਝੇ ਡੈਸ਼ਬੋਰਡ, ਅਤੇ ਸ਼ਾਸਨ ਚੈੱਕਲਿਸਟ — ਜਿਵੇਂ ਉੱਪਰ ਦਿੱਤੇ ਲੌਜਿਸਟਿਕਸ ਕਲਾਇੰਟ ਕੇਸ ਦਰਸਾਉਂਦਾ ਹੈ।
ਫਰੇਮਵਰਕ ਅਤੇ ਸਮਾਂ-ਸੀਮਾਵਾਂ ਦੀ ਪ੍ਰੋਡਕਸ਼ਨ MLOps ਅਭਿਆਸ ਨਾਲ ਸਮੀਖਿਆ, ਸਤੰਬਰ 2026।