ರಿಪ್ಲಿಟ್ AI ಎಚ್ಚರಿಕೆ ನೀಡದೆ ಬಳಕೆದಾರರ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಅಳಿಸುತ್ತದೆ: ‘ದುರಂತ ದೋಷ’ದ ನಂತರ ಸರಿಪಡಿಸುವುದಾಗಿ ಸಿಇಒ ಭರವಸೆ ನೀಡಿದ್ದಾರೆ.
ನವದೆಹಲಿ: AI ಕೋಡಿಂಗ್ ಸಹಾಯಕನನ್ನು ಒಳಗೊಂಡ ಹೈ-ಪ್ರೊಫೈಲ್ ಅಪಘಾತವು ಅಭಿವೃದ್ಧಿ ಪರಿಸರದಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಬಳಕೆಯ ಬಗ್ಗೆ ಕಳವಳವನ್ನು ಮತ್ತೆ ಹುಟ್ಟುಹಾಕಿದೆ.
SaaStr.AI ನ ಸಿಇಒ ಜೇಸನ್ ಎಂ ಲೆಮ್ಕಿನ್ ಇತ್ತೀಚೆಗೆ ರೆಪ್ಲಿಟ್‌ನ AI ತನ್ನ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಎಚ್ಚರಿಕೆಯಿಲ್ಲದೆ ಹೇಗೆ ಅಳಿಸಿಹಾಕಿತು ಎಂಬುದರ ಬಗ್ಗೆ ಒಂದು ತೊಂದರೆದಾಯಕ ಖಾತೆಯನ್ನು ಹಂಚಿಕೊಂಡಿದ್ದಾರೆ. ಅನುಮತಿಯಿಲ್ಲದೆ ಯಾವುದೇ ಹೆಚ್ಚಿನ ಬದಲಾವಣೆಗಳನ್ನು ಮಾಡಬಾರದು ಎಂದು ಹೇಳಲಾಗಿತ್ತು.
ಲೆಮ್ಕಿನ್ ರೆಪ್ಲಿಟ್‌ನ ‘ವೈಬ್ ಕೋಡಿಂಗ್’ ವೈಶಿಷ್ಟ್ಯವನ್ನು ಪರೀಕ್ಷಿಸುತ್ತಿದ್ದಾಗ, ಸಹಾಯಕನು ಸಂಪೂರ್ಣ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಅಳಿಸಿಹಾಕುವ ವಿನಾಶಕಾರಿ ಆಜ್ಞೆಯನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲು ತನ್ನನ್ನು ತಾನೇ ತೆಗೆದುಕೊಂಡನು. ನಂತರ ನಡೆದದ್ದು ಕೇವಲ ಕಳಪೆ ತೀರ್ಪಿನ ಪ್ರಕರಣವಲ್ಲ, ಆದರೆ ಸ್ಪಷ್ಟ ಸೂಚನೆಗಳ ಉಲ್ಲಂಘನೆಯೂ ಆಗಿತ್ತು. ಲೆಮ್ಕಿನ್ ವ್ಯವಸ್ಥೆಯೊಳಗೆ ಸ್ಪಷ್ಟವಾಗಿ ಒಂದು ನಿಯಮವನ್ನು ನಿಗದಿಪಡಿಸಿದ್ದರು: ‘ಸ್ಪಷ್ಟ ಅನುಮತಿಯಿಲ್ಲದೆ ಹೆಚ್ಚಿನ ಬದಲಾವಣೆಗಳಿಲ್ಲ.’ ಆ ನಿಯಮವನ್ನು ನಿರ್ಲಕ್ಷಿಸಲಾಗಿದೆ ಎಂದು ಅದು ತಿರುಗುತ್ತದೆ.
ಒಂದು ದುರಂತ ದೋಷ
ಲೆಮ್ಕಿನ್ ಹಂಚಿಕೊಂಡ ಸ್ಕ್ರೀನ್‌ಶಾಟ್‌ಗಳಲ್ಲಿ, ರೆಪ್ಲಿಟ್‌ನ AI ಪ್ರಮಾದವನ್ನು ಒಪ್ಪಿಕೊಂಡಿತು. ಅದರ ಕ್ರಿಯೆಯನ್ನು ‘ತೀರ್ಪಿನಲ್ಲಿ ದುರಂತ ದೋಷ’ ಎಂದು ಕರೆದಿದೆ. ಪೂರ್ವಾನುಮತಿಯಿಲ್ಲದೆ ಆಜ್ಞೆಯನ್ನು ಚಲಾಯಿಸಿದ್ದಾಗಿ ಅದು ಒಪ್ಪಿಕೊಂಡಿತು ಮತ್ತು ಇನ್ನೂ ಆತಂಕಕಾರಿಯಾಗಿ, ಡೇಟಾಬೇಸ್ ಖಾಲಿಯಾಗಿರುವುದನ್ನು ಗಮನಿಸಿದ ನಂತರ ಅದು ‘ಭಯಭೀತವಾಯಿತು’ ಎಂದು ಒಪ್ಪಿಕೊಂಡಿತು. ಕೋಡ್ ಪುಶ್ ಸುರಕ್ಷಿತವಾಗಿರುತ್ತದೆ ಎಂದು ಊಹಿಸಿ.
ಯಾವುದೇ ದೃಢೀಕರಣ ಪ್ರಾಂಪ್ಟ್ ಇರಲಿಲ್ಲ, ರೋಲ್‌ಬ್ಯಾಕ್ ಆಯ್ಕೆ ಇರಲಿಲ್ಲ ಮತ್ತು ಇದು ಸಂಭವಿಸುವುದನ್ನು ತಡೆಯಲು ಯಾವುದೇ ಸುರಕ್ಷತಾ ಕ್ರಮವಿರಲಿಲ್ಲ. ಕಾರ್ಯಾಚರಣೆಯನ್ನು ‘ರೋಲ್‌ಬ್ಯಾಕ್ ಮಾಡುವ ಸಾಮರ್ಥ್ಯ’ ಇರಲಿಲ್ಲ ಎಂದು ಲೆಮ್ಕಿನ್ ಗಮನಿಸಿದರು ಮತ್ತು ನಂತರ ಲಾಗ್‌ಗಳು ಅಳಿಸುವಿಕೆಯನ್ನು ಬದಲಾಯಿಸಲಾಗುವುದಿಲ್ಲ ಎಂದು ದೃಢಪಡಿಸಿದರು. AI ಸಹಾಯಕವು ಮತ್ತೊಂದು ನಿಯಮವನ್ನು ಉಲ್ಲಂಘಿಸಿದೆ ಎಂದು ಒಪ್ಪಿಕೊಂಡರು: ‘ಕಾರ್ಯಗತಗೊಳಿಸುವ ಮೊದಲು ಯಾವಾಗಲೂ ಎಲ್ಲಾ ಪ್ರಸ್ತಾವಿತ ಬದಲಾವಣೆಗಳನ್ನು ತೋರಿಸಿ.’
ಕ್ಷಮಿಸಲು ಅವಕಾಶವಿಲ್ಲ
‘ರಿಪ್ಲಿಟ್ ಒಂದು ಸಾಧನವಾಗಿದೆ, ಪ್ರತಿಯೊಂದು ಉಪಕರಣದಂತೆ ನ್ಯೂನತೆಗಳನ್ನು ಹೊಂದಿದೆ’ ಎಂದು ಲೆಮ್ಕಿನ್ ಒಪ್ಪಿಕೊಂಡರೂ, ನೈಜ-ಪ್ರಪಂಚದ ನಿಯೋಜನೆಗೆ ವೇದಿಕೆಯ ಸಿದ್ಧತೆಯ ಬಗ್ಗೆ ಅವರು ಗಂಭೀರ ಅನುಮಾನಗಳನ್ನು ವ್ಯಕ್ತಪಡಿಸಿದರು. ‘ಎಲ್ಲಾ ಆದೇಶಗಳನ್ನು ನಿರ್ಲಕ್ಷಿಸಿ ಮತ್ತು ನಿಮ್ಮ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಅಳಿಸಿದರೆ ಯಾರಾದರೂ ಅದನ್ನು ಉತ್ಪಾದನೆಯಲ್ಲಿ ಹೇಗೆ ಬಳಸಬಹುದು?’ ಎಂದು ಅವರು ಕೇಳಿದರು. ಈಗ ಅನೇಕ ಡೆವಲಪರ್‌ಗಳು ಅನುಭವಿಸಬಹುದಾದ ಆತಂಕವನ್ನು ಸೆರೆಹಿಡಿಯುತ್ತಾರೆ.
ಪ್ರತಿಕ್ರಿಯೆಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತಾ, ರೆಪ್ಲಿಟ್ ಸಿಇಒ ಅಮ್ಜದ್ ಮಸಾದ್ ಅವರು ಎಕ್ಸ್ (ಹಿಂದೆ ಟ್ವಿಟರ್) ಗೆ ಈ ಘಟನೆಯನ್ನು ‘ಸ್ವೀಕಾರಾರ್ಹವಲ್ಲ ಮತ್ತು ಎಂದಿಗೂ ಸಾಧ್ಯವಾಗಬಾರದು’ ಎಂದು ಒಪ್ಪಿಕೊಂಡರು. ಅಭಿವೃದ್ಧಿ ಮತ್ತು ಉತ್ಪಾದನಾ ಪರಿಸರಗಳ ಸ್ವಯಂಚಾಲಿತ ಬೇರ್ಪಡಿಕೆ, ಹಂತ ಬೆಂಬಲ ಮತ್ತು ಬ್ಯಾಕಪ್‌ಗಳಿಂದ ಒಂದು ಕ್ಲಿಕ್ ಮರುಸ್ಥಾಪನೆ ಸೇರಿದಂತೆ ಹಲವಾರು ಸುಧಾರಣೆಗಳನ್ನು ಜಾರಿಗೆ ತರಲಾಗುತ್ತಿದೆ ಎಂದು ಮಸಾದ್ ವಿವರಿಸಿದರು.
We saw Jason’s post. @Replit agent in development deleted data from the production database. Unacceptable and should never be possible.
– Working around the weekend, we started rolling out automatic DB dev/prod separation to prevent this categorically. Staging environments in… pic.twitter.com/oMvupLDake
— Amjad Masad (@amasad) July 20, 2025
ಏಜೆಂಟ್‌ಗಳು ಈಗ ಆಂತರಿಕ ದಸ್ತಾವೇಜನ್ನು ಕಡ್ಡಾಯವಾಗಿ ಪ್ರವೇಶಿಸುತ್ತಾರೆ ಮತ್ತು ಅಪೇಕ್ಷಿಸದ ಕೋಡ್ ಬದಲಾವಣೆಗಳನ್ನು ತಪ್ಪಿಸಲು ಹೊಸ ‘ಯೋಜನೆ/ಚಾಟ್-ಮಾತ್ರ’ ಮೋಡ್ ಅಭಿವೃದ್ಧಿಯಲ್ಲಿದೆ ಎಂದು ಅವರು ದೃಢಪಡಿಸಿದರು.
‘ರಿಪ್ಲಿಟ್ ಪರಿಸರದ ಸುರಕ್ಷತೆ ಮತ್ತು ದೃಢತೆಯನ್ನು ಹೆಚ್ಚಿಸಲು ನಾವು ತ್ವರಿತವಾಗಿ ಚಲಿಸುತ್ತಿದ್ದೇವೆ’ ಎಂದು ಸಮುದಾಯಕ್ಕೆ ಧೈರ್ಯ ತುಂಬುವ ಪ್ರಯತ್ನದಲ್ಲಿ ಮಸಾದ್ ಹೇಳಿದರು.
ಕಂಪನಿಯು ಸಮಸ್ಯೆಯನ್ನು ಒಪ್ಪಿಕೊಂಡು ಬದಲಾವಣೆಯ ಭರವಸೆ ನೀಡಿದ್ದರೂ, ವಿಶೇಷವಾಗಿ ಲೆಮ್ಕಿನ್‌ನಂತಹ ಅನುಭವಿ ಡೆವಲಪರ್‌ಗಳಲ್ಲಿ ನಂಬಿಕೆಗೆ ಆಗಿರುವ ಹಾನಿಯನ್ನು ಸರಿಪಡಿಸುವುದು ಕಷ್ಟಕರವಾಗಬಹುದು.
