ডান-আকারের AI: ব্যবসা, ব্যবহারকারী এবং গ্রহের জন্য ভালো

Rachel Lee Nabors

প্রকাশিত: ১০ নভেম্বর, ২০২৫

AI ব্যবহার করে ওয়েবসাইট এবং ওয়েব অ্যাপ তৈরি করার সময়, আপনি হয়তো ChatGPT, Gemini, অথবা Claude এর মতো বৃহৎ ভাষা মডেল (LLM) দিয়ে প্রোটোটাইপ করেছেন, তারপর সেই বাস্তবায়নকে উৎপাদনে ব্যবহার করেছেন। LLM হল এক ধরণের ফাউন্ডেশন মডেল , একটি খুব বড়, প্রাক-প্রশিক্ষিত মডেল, যা সম্পদ-নিবিড়, ব্যয়বহুল এবং প্রায়শই কাজের জন্য সেরা হাতিয়ার নয়। ছোট, স্থানীয়, টাস্ক-নির্দিষ্ট মডেলগুলি কম সম্পদ গ্রহণ করে এবং প্রায়শই "এক আকার সকলের জন্য উপযুক্ত" ফাউন্ডেশন মডেলের তুলনায় কম খরচে আরও ভাল, দ্রুত প্রতিক্রিয়া প্রদান করে।

যখন আপনি একটি ভালো মডেল বেছে নেন, তখন আপনি একটি আরও টেকসই পদ্ধতি বেছে নিচ্ছেন, যাকে আমরা বলব ডান-আকারের এআই । ডান-আকারের এআই প্রদান করে:

• দূরবর্তী সার্ভারে রাউন্ড-ট্রিপিংয়ের পরিবর্তে, মডেলগুলি স্থানীয়ভাবে চালানো হলে ব্যবহারকারীদের জন্য কম ল্যাটেন্সি ।
• অব্যবহৃত ক্ষমতার জন্য অর্থ প্রদান না করলে API খরচ কমে যায় ।
• ক্লায়েন্ট-সাইড, অন-ডিভাইস মডেলগুলিতে অফলাইন অ্যাপ অ্যাক্সেস , আরও নির্ভরযোগ্য অভিজ্ঞতা তৈরি করে।

যদিও ফাউন্ডেশন মডেলগুলি সাধারণ যুক্তি এবং কথোপকথনে পারদর্শী, নির্দিষ্ট কাজের জন্য (যেমন টেক্সট ক্লাসিফিকেশন বা ডেটা এক্সট্রাকশন) এগুলি ব্যবহার করা ম্যাকডোনাল্ডস পাওয়ার জন্য ফর্মুলা 1 গাড়ি ব্যবহার করার মতো। এটি প্রযুক্তিগতভাবে সম্ভব, কিন্তু খুবই অদক্ষ (এবং আপনার যাত্রীদের জন্য অস্বস্তিকর)। পরিবর্তে, আপনার বাস্তব চাহিদার সাথে আপনার বাস্তবায়নের সাথে মিল করুন।

টেকসই AI অনুশীলন এবং সর্বোত্তম ব্যবহারকারীর অভিজ্ঞতা প্রতিযোগিতামূলক অগ্রাধিকার নয়। এগুলি একই অগ্রাধিকার যা ভিন্নভাবে প্রকাশ করা হয়।

AI এর পরিবেশগত প্রভাব মূল্যায়নের একটি উপায় হল:

• প্রশিক্ষণ : প্রাথমিক মডেল প্রশিক্ষণের জন্য উল্লেখযোগ্য সম্পদের প্রয়োজন। এই অপ্টিমাইজেশন এবং "শিক্ষা" মডেল প্রদানকারী দ্বারা পরিচালিত হয়।
• অনুমান : যখন আপনি একটি প্রশিক্ষিত মডেলকে নতুন ইনপুট (এপ্রোম্পট) দিয়ে আউটপুট (প্রতিক্রিয়া পাঠ্য) তৈরি করেন তখন আপনি অনুমান সম্পাদন করেন। প্রশিক্ষণের তুলনায়, অনুমান উল্লেখযোগ্যভাবে কম সম্পদ ব্যবহার করে।

প্রশিক্ষণ একটি নির্দিষ্ট খরচ, কিন্তু অনুমানের খরচ ব্যবহারের সাথে সামঞ্জস্যপূর্ণ, যা মডেল পছন্দকে একটি গুরুত্বপূর্ণ বিষয় করে তোলে যা আপনি নিয়ন্ত্রণ করতে পারেন। আপনি আপনার ব্যবহারের ক্ষেত্রে এবং গ্রহের জন্য সচেতনভাবে সিদ্ধান্ত নিতে পারেন, যা দায়িত্বশীল AI উন্নয়নকে সমর্থন করে।

ব্যবহারকারী-প্রথম এআই বাস্তবায়ন করুন

মডেল-প্রথম এআই তৈরির পরিবর্তে, ব্যবহারকারী-প্রথম এআই তৈরি করুন। এআই কী কী কাজ সম্পাদন করতে পারে তা বিবেচনা করুন যা আপনার অ্যাপটিকে ব্যবহার করা সহজ করে তুলবে বা আপনার ব্যবহারকারীদের কাজের চাপ বা তাদের প্রসঙ্গ পরিবর্তনের পরিমাণ কমিয়ে দেবে।

উদাহরণস্বরূপ, ধরুন আপনি রিওয়ার্ডিং ইটস নামে একটি ব্যবসা পরিচালনা করেন, যা নির্দিষ্ট কিছু রেস্তোরাঁয় খাবার খাওয়ার জন্য ব্যবহারকারীদের পয়েন্ট দেয়। আপনি আপনার গ্রাহকদের ম্যানুয়ালি এটি প্রবেশ করানোর পরিবর্তে, রেস্তোরাঁর নাম এবং মোট খরচের জন্য একটি রসিদ চিত্র স্ক্যান করতে AI ব্যবহার করতে পারেন। এই বৈশিষ্ট্যটি সম্ভবত আপনার অ্যাপ্লিকেশনের ব্যবহারকারীর অভিজ্ঞতা উন্নত করবে।

ব্যবহারকারী-প্রথম এআই তৈরি করার সময়:

1. আপনার কাজের প্রয়োজনীয়তাগুলি সংজ্ঞায়িত করুন । AI-কে কোন কাজগুলি সম্পাদন করতে হবে? এগুলি কি সম্পূর্ণরূপে টেক্সট-ভিত্তিক নাকি এতে অডিও বা ভিজ্যুয়াল উপাদান জড়িত?
2. উপযুক্ত মডেলটি বেছে নিন । বিভিন্ন মডেল বিভিন্ন কাজে বেশি দক্ষ এবং প্রায়শই তাদের পদচিহ্ন ছোট থাকে।
3. আপনার স্থাপনার সীমাবদ্ধতাগুলি বুঝুন । মডেলটি থাকার অর্থ কী? ডেটা কোথায় থাকবে? ব্যবহারকারীর কি একটি নির্ভরযোগ্য সংযোগ থাকবে?
4. দ্রুততম, সবচেয়ে নিরাপদ ব্যবহারকারীর অভিজ্ঞতার জন্য প্রগতিশীল বর্ধনের সাথে বাস্তবায়ন করুন ।

আপনার কাজের প্রয়োজনীয়তাগুলি নির্ধারণ করুন

"এআই ব্যবহারের জায়গা" বা "এআই বৈশিষ্ট্য যোগ করার জায়গা" খোঁজার পরিবর্তে, আপনার জিজ্ঞাসা করা উচিত, "ঘর্ষণহীন অভিজ্ঞতা কেমন হবে?" আপনার কোম্পানি কত বড় তার উপর নির্ভর করে, এটি পণ্য পরিচালকদের সাথে কথোপকথন হওয়া উচিত।

আমাদের অ্যাপ, রিওয়ার্ডিং ইটস-এর কথাই ধরুন। প্রথম প্রশ্নটি হল: "এর জন্য কি আমাদের AI প্রয়োজন?"

একটি ফাউন্ডেশন মডেল কিছু প্রম্পট সহ একটি রসিদ থেকে খরচের খসড়া তৈরি করতে পারে । কিন্তু এটি পরিচালনা করার জন্য আরও কার্যকর উপায় হল বড় মডেলের প্রয়োজন হয় না। চিত্র থেকে টেক্সট পার্স করার জন্য অপটিক্যাল ক্যারেক্টার রিকগনিশন (OCR) ব্যবহার করুন এবং পার্স করা টেক্সট থেকে আইটেম এবং খরচ সনাক্ত করার জন্য এটি একটি টাস্ক-নির্দিষ্ট মডেল যেমন একটি টেক্সট ক্লাসিফিকেশন মডেলে পাস করুন। এটি ব্যবহারকারীর ডিভাইসে করা যেতে পারে, সার্ভারে কোনও ডেটা না পাঠিয়ে।

বেশিরভাগ ক্ষেত্রে, যদি আপনি মনে করেন যে আপনার একটি ভিত্তি মডেলের প্রয়োজন, তাহলে সম্ভবত আপনার সমস্যাটিকে আলাদা আলাদা কাজে ভাগ করতে হবে।

উপযুক্ত মডেলটি বেছে নিন

একবার আপনি কোন কাজগুলি সম্পন্ন করার চেষ্টা করছেন তা জানার পর, আপনি কাজের জন্য সঠিক মডেলের ধরণ এবং মডেলটি বেছে নিতে পারেন। ফাউন্ডেশন মডেলের জন্য পৌঁছানো সহজ হলেও, ছোট মডেলগুলি দ্রুত এবং সস্তায় কাজটি সম্পন্ন করে। যখন আপনি আপনার কাজটি বুঝতে পারবেন, তখন আপনি কাজটি পরিচালনা করার জন্য সঠিক ছোট, টাস্ক-নির্দিষ্ট মডেলটি বেছে নিতে পারবেন।

বিভিন্ন ধরণের মডেলের ধরণ এবং মডেল পাওয়া যায়, তাই আপনার প্রকল্পের জন্য সঠিক পছন্দটি নির্ধারণ করতে মডেল নির্বাচনের উপর গভীরভাবে পড়ুন।

আপনার মডেলের জন্য সঠিক অবস্থান নির্বাচন করুন

যদিও ফাউন্ডেশন মডেলগুলি খুব বড়, এমনকি সবচেয়ে শক্তিশালী ডেস্কটপেও ব্যবহার করা যায় না, ছোট LLM , ছোট ভাষা মডেল (SLM) এবং টাস্ক-নির্দিষ্ট মডেলগুলি অনেক ডিভাইসে চালানো যেতে পারে।

SLM গুলি সুবিধাজনক কিন্তু অস্বাভাবিক। কোটি কোটি মোবাইল ফোন আছে, এবং কেবলমাত্র সাম্প্রতিক এবং আরও ব্যয়বহুল মডেলগুলি স্থানীয় SLM গুলি চালাতে সক্ষম। এটি বাজারের একটি ছোট শতাংশ।

আপনার মডেলের জন্য সেরা অবস্থান নির্ধারণ করতে এই ম্যাট্রিক্সটি ব্যবহার করুন:

ক্লায়েন্ট-সাইড ইনফারেন্স, প্রগতিশীল বর্ধন, এবং হাইব্রিড

TensorFlow.js , Transformers.js , এবং ONNX.js এর মতো লাইব্রেরিগুলির সাহায্যে, আপনার অ্যাপ্লিকেশনগুলি ব্যবহারকারীর ডেটার সাথে ক্লায়েন্ট-সাইড ইনফারেন্স সম্পাদন করতে পারে। আপনি আপনার মডেলটিকে উপযুক্ত ফর্ম্যাটে রূপান্তর করেন, তারপর এটিকে দূরবর্তীভাবে হোস্ট করেন বা সরাসরি আপনার অ্যাপে এম্বেড করেন। সর্বোত্তম ব্যবহারকারীর অভিজ্ঞতা প্রিলোডেড, ডাউনলোডযোগ্য এবং দূরবর্তী মডেলের একটি নিরবচ্ছিন্ন মিশ্রণ ব্যবহার করে, যাতে ব্যবহারকারীরা আপস ছাড়াই কাজ সম্পন্ন করতে পারেন।

নিরাপত্তার জন্য (অথবা আকারের প্রয়োজনে) রিমোট, ক্লাউড-হোস্টেড মডেল ব্যবহার করা পছন্দ করা হলেও, সংযোগ বিচ্ছিন্ন হয়ে গেলে পর্যাপ্ত স্থানীয় মডেল উপলব্ধ করা একটি নমনীয় অভিজ্ঞতা তৈরি করতে পারে।

পরিশেষে, মডেল স্থাপনের জন্য তিনটি পদ্ধতি রয়েছে। আপনার প্রয়োজনের জন্য সেরাটি বেছে নিন।

• লোকাল-ফার্স্ট: অ্যাপটিতে অফলাইন প্রয়োজনীয়তা, উচ্চ-ফ্রিকোয়েন্সি ব্যবহার, সংবেদনশীল ডেটা রয়েছে।
• রিমোট-ফার্স্ট: জটিল যুক্তি, বড় মডেল, কদাচিৎ ব্যবহার।
• হাইব্রিড পদ্ধতি: API ব্যবহার করার সময় ছোট মডেল ডাউনলোড করুন, প্রস্তুত হলে স্যুইচ করুন।

আপনার পরবর্তী পদক্ষেপগুলি

প্রযুক্তি প্রায়শই বাস্তবায়নের পরে আসে। ব্যবহারকারীর জন্য আরও ভাল অভিজ্ঞতা এবং আমাদের বিশ্বের জন্য আরও ভাল ফলাফলের পক্ষে, শিল্পের দিকনির্দেশনাকে প্রভাবিত করার জন্য ডেভেলপারদের জন্য সর্বোত্তম উপায় হল:

• কাজের জন্য সঠিক টুলটি বেছে নিন । ছোট মডেলগুলি কম সম্পদ ব্যবহার করে এবং প্রায়শই দ্রুত প্রকৌশলের সাহায্যে বড় মডেলগুলির মতোই ভালো পারফর্ম করে। তারা লেটেন্সি কমিয়েছে।
• অনুমান এবং প্রশিক্ষণ খরচের স্বচ্ছতা প্রয়োজন । আপনার কোম্পানির পক্ষে এই সংখ্যাগুলি প্রকাশ করে এমন মডেলগুলিকে অগ্রাধিকার দেওয়ার পক্ষে পরামর্শ দিন।
• সার্ভারে যাতায়াতের খরচ কমাতে মডেলটি ডেটার কাছে রাখুন ।
• ইতিমধ্যে যা আছে তা ব্যবহার করুন । যদি ডিভাইসে ইতিমধ্যেই মডেল থাকে, তাহলে প্রথমে সেই মডেলগুলিকে পছন্দ করুন।

রিসোর্স

যদি আপনি এই বিষয়গুলি আরও গভীরভাবে জানতে চান, তাহলে আমি এই লেখাটি লেখার জন্য নিম্নলিখিত তথ্যসূত্রগুলি ব্যবহার করেছি। এগুলো পড়ার জন্য চমৎকার।

মডেল কর্মক্ষমতা এবং গবেষণা

• ক্ষুদ্র ভাষার মডেলগুলি এজেন্টিক এআই-এর ভবিষ্যৎ (এনভিআইডিআইএ গবেষণাপত্র) : এসএলএম ক্ষমতার উপর গবেষণাকে সমর্থন করে
• মিস্ট্রালের পরিবেশগত প্রভাব নিরীক্ষা : প্রশিক্ষণ এবং অনুমান ব্যয়ের স্বচ্ছতা
• গুগলের ইনফারেন্স কস্ট স্টাডি : পরিবেশগত প্রভাব পরিমাপ
• প্রকৃতি অধ্যয়ন: AI বনাম মানুষের পরিবেশগত প্রভাব : AI এবং মানুষের কাজ সমাপ্তির তুলনামূলক বিশ্লেষণ
• এআই পরিবেশগত প্রভাব আলোচনা : পরিবেশগত আলোচনার প্রেক্ষাপট

বাস্তবায়ন এবং উন্নয়ন সরঞ্জাম

• TensorFlow.js মডেল লোড হচ্ছে : ক্লায়েন্ট-সাইড মডেল স্থাপনা
• Transformers.js উদাহরণ : ব্রাউজার-ভিত্তিক মডেল অনুমান
• ONNX.js রানটাইম : ক্রস-প্ল্যাটফর্ম মডেল স্থাপনা
• ফায়ারবেস হাইব্রিড এআই গাইড : স্থানীয় এবং দূরবর্তী মডেল ইন্টিগ্রেশন