LLM-এর নিরাপত্তা, Bias এবং Limitations

LLM training data-এর bias reproduce করতে পারে, harmful output দিতে পারে বা sensitive information expose করতে পারে। LLM application-এর common risks:

• prompt injection;

• private data leakage;

• biased বা harmful generation;

• insecure tool execution;

• over-reliance on unverified answers।

Mitigation হিসেবে access control, input/output filtering, data minimization, red-team testing, audit logging এবং human review ব্যবহার করা যায়। High-stakes decision পুরোপুরি model-এর হাতে দেওয়া উচিত নয়।

LLM safety শুধু model filtering নয়; data, prompt, retrieval, tools, permissions, monitoring এবং human oversight—পুরো system জুড়ে controls প্রয়োজন।