ChatGPT ਦੇ AI ਟੈਕਸਟ ’ਚ ਹੁਣ ਲੱਗੇਗਾ ਵਾਟਰਮਾਰਕ
OpenAI ਨੇ ਸ਼ੁਰੂ ਕੀਤਾ ‘textGrain’ : ਜੇਕਰ ਤੁਸੀਂ ਨੋਟਸ ਬਣਾਉਣ ਜਾਂ ਕਿਸੇ ਹੋਰ ਕੰਮ ਲਈ ChatGPT ਤੋਂ ਲਿਖਵਾਇਆ ਟੈਕਸਟ ਕਾਪੀ ਕਰਕੇ ਵਰਤਦੇ ਹੋ ਤਾਂ ਆਉਣ ਵਾਲੇ ਸਮੇਂ ਵਿੱਚ ਇਹ ਪਛਾਣਨਾ ਆਸਾਨ ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਟੈਕਸਟ AI ਦੀ ਮਦਦ ਨਾਲ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ ਜਾਂ ਨਹੀਂ। OpenAI ਨੇ AI ਨਾਲ ਤਿਆਰ ਕੀਤੇ ਟੈਕਸਟ ਲਈ ‘textGrain’ ਨਾਮ ਦਾ ਇੱਕ ਨਵਾਂ ਅਦਿੱਖ ਵਾਟਰਮਾਰਕ ਸਿਸਟਮ ਤਿਆਰ ਕੀਤਾ ਹੈ।
ਇਹ ਵਾਟਰਮਾਰਕ ਆਮ ਵਿਅਕਤੀ ਨੂੰ ਦਿਖਾਈ ਨਹੀਂ ਦੇਵੇਗਾ, ਪਰ ਖਾਸ ਡਿਟੈਕਸ਼ਨ ਟੂਲ ਇਸ ਦੀ ਮੌਜੂਦਗੀ ਦੀ ਪਛਾਣ ਕਰ ਸਕਣਗੇ। ਫਿਲਹਾਲ OpenAI ਇਸ ਤਕਨੀਕ ਨੂੰ ਯੂਰਪੀ ਸੰਘ (EU) ਵਿੱਚ ChatGPT ਅਤੇ Codex ਦੇ ਯੋਗ ਟੈਕਸਟ ਆਉਟਪੁੱਟ ’ਤੇ ਲਾਗੂ ਕਰ ਰਹੀ ਹੈ।
ਆਖਿਰ ਕੀ ਹੈ textGrain?
OpenAI ਦੇ ਅਨੁਸਾਰ textGrain ਕਿਸੇ ਟੈਕਸਟ ਵਿੱਚ ਕੋਈ ਦਿਖਾਈ ਦੇਣ ਵਾਲਾ ਨਿਸ਼ਾਨ, ਵਾਧੂ ਸਪੇਸ ਜਾਂ ਅਜੀਬ ਅੱਖਰ ਨਹੀਂ ਜੋੜਦਾ। ਇਸ ਦੀ ਬਜਾਏ AI ਮਾਡਲ ਵੱਲੋਂ ਸ਼ਬਦਾਂ ਦੀ ਚੋਣ ਕਰਨ ਦੇ ਤਰੀਕੇ ਵਿੱਚ ਬਹੁਤ ਛੋਟੇ ਅੰਕੜਾਤਮਕ ਬਦਲਾਅ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।
ਜਦੋਂ AI ਕੋਈ ਵਾਕ ਲਿਖਦਾ ਹੈ ਤਾਂ ਅਗਲੇ ਸ਼ਬਦ ਲਈ ਕਈ ਸੰਭਾਵਿਤ ਵਿਕਲਪ ਹੁੰਦੇ ਹਨ। textGrain ਇਨ੍ਹਾਂ ਸ਼ਬਦਾਂ ਦੀ ਚੋਣ ਦੇ ਪੈਟਰਨ ਵਿੱਚ ਇੱਕ ਖਾਸ ਅੰਕੜਾਤਮਕ ਸਿਗਨਲ ਤਿਆਰ ਕਰਦਾ ਹੈ। ਇਨਸਾਨ ਆਮ ਤੌਰ ’ਤੇ ਇਸ ਨੂੰ ਪਛਾਣ ਨਹੀਂ ਸਕਦਾ, ਪਰ OpenAI ਦਾ ਖਾਸ ਡਿਟੈਕਟਰ ਇਸ ਪੈਟਰਨ ਨੂੰ ਲੱਭ ਸਕਦਾ ਹੈ।
ਕਾਪੀ-ਪੇਸਟ ਕਰਨ ਨਾਲ ਵਾਟਰਮਾਰਕ ਖਤਮ ਨਹੀਂ ਹੋਵੇਗਾ
textGrain ਦੀ ਖਾਸ ਗੱਲ ਇਹ ਹੈ ਕਿ ਇਹ ਟੈਕਸਟ ਵਿੱਚ ਕੋਈ ਲੁਕਿਆ ਹੋਇਆ ਕੈਰੇਕਟਰ ਜਾਂ ਵੱਖਰਾ ਵਾਟਰਮਾਰਕ ਟੋਕਨ ਨਹੀਂ ਜੋੜਦਾ। ਵਾਟਰਮਾਰਕ ਸ਼ਬਦਾਂ ਦੀ ਚੋਣ ਨਾਲ ਜੁੜੇ ਅੰਕੜਾਤਮਕ ਪੈਟਰਨ ਵਿੱਚ ਮੌਜੂਦ ਰਹਿੰਦਾ ਹੈ।
ਇਸ ਲਈ ਆਮ ਤੌਰ ’ਤੇ ਇੱਕ ਥਾਂ ਤੋਂ ਦੂਜੀ ਥਾਂ ਟੈਕਸਟ ਕਾਪੀ-ਪੇਸਟ ਕਰਨ ਨਾਲ ਇਹ ਸਿਗਨਲ ਆਪਣੇ ਆਪ ਖਤਮ ਨਹੀਂ ਹੁੰਦਾ। ਹਾਲਾਂਕਿ ਹਰ AI-ਜਨਰੇਟਿਡ ਟੈਕਸਟ ਨੂੰ ਹਮੇਸ਼ਾ ਪਛਾਣਿਆ ਜਾ ਸਕੇ, ਇਹ ਜ਼ਰੂਰੀ ਨਹੀਂ। ਟੈਕਸਟ ਦੀ ਲੰਬਾਈ, ਭਾਸ਼ਾ, ਵਿਸ਼ਾ ਅਤੇ ਬਾਅਦ ਵਿੱਚ ਕੀਤੀ ਗਈ ਐਡਿਟਿੰਗ ਡਿਟੈਕਸ਼ਨ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦੀ ਹੈ।
ਕੀ ਇਸ ਨਾਲ ਯੂਜ਼ਰ ਦੀ ਪਛਾਣ ਹੋਵੇਗੀ?
OpenAI ਦੇ ਅਨੁਸਾਰ textGrain ਡਿਟੈਕਟਰ ਸਿਰਫ਼ ਇਹ ਦੱਸਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ ਕਿ ਕਿਸੇ ਟੈਕਸਟ ਵਿੱਚ OpenAI ਦਾ ਵਾਟਰਮਾਰਕ ਮਿਲਦਾ ਹੈ ਜਾਂ ਨਹੀਂ। ਇਸ ਨਾਲ ਇਹ ਪਤਾ ਨਹੀਂ ਲੱਗੇਗਾ ਕਿ ਟੈਕਸਟ ਕਿਸ ਯੂਜ਼ਰ ਨੇ ਤਿਆਰ ਕੀਤਾ, ਕਿਹੜਾ ਪ੍ਰੌਂਪਟ ਵਰਤਿਆ ਗਿਆ ਜਾਂ ਉਹ ਟੈਕਸਟ ਕਿਸ ਗੱਲਬਾਤ ਤੋਂ ਆਇਆ। ਇਹ ਵੀ ਪਤਾ ਨਹੀਂ ਲੱਗੇਗਾ ਕਿ ਅੰਤਿਮ ਟੈਕਸਟ ਵਿੱਚ ਇਨਸਾਨ ਦਾ ਕਿੰਨਾ ਯੋਗਦਾਨ ਹੈ ਜਾਂ ਟੈਕਸਟ ਦਾ ਮਾਲਕ ਕੌਣ ਹੈ।
OpenAI ਨੇ textGrain ਦੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਸਮਝਣ ਲਈ ਕਈ ਟੈਸਟ ਕੀਤੇ ਹਨ। ਕੰਪਨੀ ਦੇ ਮੁਤਾਬਕ ਲਗਭਗ 1 ਫੀਸਦੀ ਫਾਲਸ-ਪੌਜ਼ਿਟਿਵ ਰੇਟ ਦੇ ਟੀਚੇ ’ਤੇ ਕਰੀਬ 200 ਟੋਕਨ ਵਾਲੇ ਟੈਕਸਟ ਵਿੱਚ ਲਗਭਗ 80 ਫੀਸਦੀ ਮਾਮਲਿਆਂ ਵਿੱਚ ਵਾਟਰਮਾਰਕ ਪਛਾਣਿਆ ਗਿਆ।
ਕਰੀਬ 400 ਟੋਕਨ ਵਾਲੇ ਟੈਕਸਟ ਵਿੱਚ ਇਹ ਦਰ ਲਗਭਗ 95 ਫੀਸਦੀ ਰਹੀ। ਹਾਲਾਂਕਿ ਇਹ ਨਤੀਜੇ ਖਾਸ ਕਿਸਮ ਦੇ ਕੰਟੈਂਟ ’ਤੇ ਕੀਤੇ ਗਏ ਮੁਲਾਂਕਣ ਨਾਲ ਸਬੰਧਤ ਹਨ।
textGrain ਹਰ ਵਿਸ਼ੇ ਵਿੱਚ ਇੱਕੋ ਜਿਹਾ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਨਹੀਂ ਹੈ। OpenAI ਦੇ ਟੈਸਟਾਂ ਵਿੱਚ ਗਣਿਤ ਵਰਗੇ ਵਿਸ਼ਿਆਂ ਵਿੱਚ ਡਿਟੈਕਸ਼ਨ ਕਾਫ਼ੀ ਕਮਜ਼ੋਰ ਪਾਇਆ ਗਿਆ। ਇਸ ਦੀ ਇੱਕ ਵਜ੍ਹਾ ਇਹ ਹੈ ਕਿ ਗਣਿਤ ਦੇ ਜਵਾਬਾਂ ਵਿੱਚ ਸ਼ਬਦਾਂ ਨੂੰ ਬਦਲਣ ਜਾਂ ਵੱਖ-ਵੱਖ ਢੰਗ ਨਾਲ ਲਿਖਣ ਦੀ ਗੁੰਜਾਇਸ਼ ਆਮ ਵਿਸ਼ਿਆਂ ਨਾਲੋਂ ਘੱਟ ਹੁੰਦੀ ਹੈ। ਇਸ ਕਾਰਨ AI ਲਈ ਵਾਟਰਮਾਰਕ ਸਿਗਨਲ ਬਣਾਉਣ ਦੀ ਸੰਭਾਵਨਾ ਵੀ ਘੱਟ ਹੋ ਜਾਂਦੀ ਹੈ।
OpenAI ਦੇ ਟੈਸਟਾਂ ਮੁਤਾਬਕ ਜੇਕਰ AI ਵੱਲੋਂ ਤਿਆਰ ਕੀਤੇ ਟੈਕਸਟ ਵਿੱਚ ਬਾਅਦ ਵਿੱਚ ਸ਼ਬਦ ਬਦਲੇ ਜਾਣ ਤਾਂ ਵਾਟਰਮਾਰਕ ਦੀ ਪਛਾਣ ਕਾਫ਼ੀ ਕਮਜ਼ੋਰ ਹੋ ਸਕਦੀ ਹੈ। ਕਰੀਬ 400 ਟੋਕਨ ਵਾਲੇ ਟੈਕਸਟ ਵਿੱਚ 10 ਫੀਸਦੀ ਸ਼ਬਦਾਂ ਨੂੰ ਸਮਾਨ ਅਰਥ ਵਾਲੇ ਹੋਰ ਸ਼ਬਦਾਂ ਨਾਲ ਬਦਲਣ ’ਤੇ ਡਿਟੈਕਸ਼ਨ ਲਗਭਗ 92 ਫੀਸਦੀ ਤੋਂ ਘਟ ਕੇ 66 ਫੀਸਦੀ ਰਹਿ ਗਿਆ। ਜਦੋਂ 25 ਫੀਸਦੀ ਸ਼ਬਦ ਬਦਲੇ ਗਏ ਤਾਂ ਡਿਟੈਕਸ਼ਨ ਲਗਭਗ 17 ਫੀਸਦੀ ਤੱਕ ਡਿੱਗ ਗਿਆ।
ਜੇਕਰ AI ਨਾਲ ਤਿਆਰ ਕੀਤੇ ਟੈਕਸਟ ਨੂੰ ਕਿਸੇ ਹੋਰ ਭਾਸ਼ਾ ਵਿੱਚ ਅਨੁਵਾਦ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਤਾਂ ਵਾਟਰਮਾਰਕ ਦੀ ਪਛਾਣ ਕਰਨਾ ਵੀ ਮੁਸ਼ਕਲ ਹੋ ਸਕਦਾ ਹੈ।
ਇਸੇ ਤਰ੍ਹਾਂ ਬਹੁਤ ਛੋਟਾ ਟੈਕਸਟ, ਭਾਰੀ ਐਡਿਟਿੰਗ, ਕਿਸੇ ਹੋਰ AI ਮਾਡਲ ਨਾਲ ਤਿਆਰ ਕੀਤਾ ਕੰਟੈਂਟ ਜਾਂ ਵਾਟਰਮਾਰਕ ਲਾਗੂ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਬਣਾਇਆ ਗਿਆ ਟੈਕਸਟ ਵੀ ਡਿਟੈਕਸ਼ਨ ਤੋਂ ਬਾਹਰ ਹੋ ਸਕਦਾ ਹੈ। ਇਸ ਲਈ ਵਾਟਰਮਾਰਕ ਨਾ ਮਿਲਣ ਦਾ ਇਹ ਮਤਲਬ ਨਹੀਂ ਕਿ ਟੈਕਸਟ ਯਕੀਨੀ ਤੌਰ ’ਤੇ ਇਨਸਾਨ ਨੇ ਹੀ ਲਿਖਿਆ ਹੈ।
OpenAI ਆਪਣੇ textGrain ਡਿਟੈਕਟਰ ਨੂੰ ਫਿਲਹਾਲ ਆਮ ਲੋਕਾਂ ਲਈ ਜਾਰੀ ਨਹੀਂ ਕਰ ਰਹੀ। ਕੰਪਨੀ ਨੇ ਖੋਜਕਰਤਾਵਾਂ ਅਤੇ ਮਾਹਿਰ ਸੰਸਥਾਵਾਂ ਲਈ ਇਸ ਦੀ ਪਹੁੰਚ ਵਾਸਤੇ ਅਰਜ਼ੀਆਂ ਸ਼ੁਰੂ ਕਰਨ ਦੀ ਗੱਲ ਕਹੀ ਹੈ।
ਸ਼ੁਰੂਆਤ ਵਿੱਚ ਮਨਜ਼ੂਰਸ਼ੁਦਾ ਖੋਜਕਰਤਾਵਾਂ ਅਤੇ ਮਾਹਿਰ ਸੰਸਥਾਵਾਂ ਨੂੰ ਕੇਸ-ਦਰ-ਕੇਸ ਆਧਾਰ ’ਤੇ ਐਕਸੈੱਸ ਦਿੱਤਾ ਜਾਵੇਗਾ। ਇਸ ਦਾ ਕਾਰਨ ਇਹ ਹੈ ਕਿ ਵਾਟਰਮਾਰਕ ਡਿਟੈਕਸ਼ਨ ਵਿੱਚ ਫਾਲਸ-ਪੌਜ਼ਿਟਿਵ ਅਤੇ ਫਾਲਸ-ਨੈਗੇਟਿਵ ਦੋਵਾਂ ਦੀ ਸੰਭਾਵਨਾ ਰਹਿੰਦੀ ਹੈ।
- PTC NEWS
