في المثال المقدم لتصنيف النص مع TensorFlow ، المحسن المستخدم هو محسن Adam ، ووظيفة الخسارة المستخدمة هي Sparse Categorical Crossentropy.
مُحسِّن آدم هو امتداد لخوارزمية نزول التدرج العشوائي (SGD) التي تجمع بين مزايا محسّنين شائعين آخرين: AdaGrad و RMSProp. يقوم بضبط معدل التعلم ديناميكيًا لكل معلمة ، مما يسمح بتقارب أسرع وأداء أفضل. يحسب مُحسِّن آدم معدلات التعلم التكيفية لكل معلمة بناءً على تقديرات اللحظتين الأولى والثانية من التدرجات. يساعد معدل التعلم التكيفي هذا المحسن على التقارب بسرعة وكفاءة.
دالة الخسارة المستخدمة في المثال هي التقاطع المتناثر الفئوي. تُستخدم وظيفة الخسارة هذه بشكل شائع لمهام التصنيف متعدد الفئات عندما تكون الفئات متنافية. يحسب الخسارة عبر الانتروبيا بين الاحتمالات المتوقعة والتسميات الحقيقية. يعتبر Sparse Categorical Crossentropy مناسبًا للحالات التي يتم فيها تمثيل الملصقات كأعداد صحيحة بدلاً من متجهات مشفرة واحدة ساخنة. يحول داخليًا تسميات الأعداد الصحيحة إلى متجهات مشفرة واحدة قبل حساب الخسارة.
لتوضيح استخدام مُحسِّن آدم ووظيفة الخسارة المتفرقة المتفرقة في سياق تصنيف النص ، ضع في اعتبارك مقتطف الكود التالي:
python # Define the optimizer optimizer = tf.keras.optimizers.Adam() # Define the loss function loss_function = tf.keras.losses.SparseCategoricalCrossentropy() # Compile the model model.compile(optimizer=optimizer, loss=loss_function, metrics=['accuracy'])
في مقتطف الشفرة هذا ، يتم إنشاء مُحسِّن آدم باستخدام وظيفة `` tf.keras.optimizers.Adam () `، ويتم إنشاء وظيفة الخسارة المتفرقة المتفرقة باستخدام الوظيفة` tf.keras.losses.SparseCategoricalCrossentropy () `. يتم بعد ذلك تمرير مثيلات دالة المحسن والخسارة هذه إلى طريقة `` compile () '' للنموذج ، والتي تحددها لتدريب الشبكة العصبية.
يستخدم المثال المقدم لتصنيف النص مع TensorFlow مُحسِّن آدم ووظيفة الخسارة المتفرقة المتفرقة. يقوم مُحسِّن آدم بضبط معدل التعلم ديناميكيًا لكل معلمة ، بينما تحسب وظيفة الخسارة المتقاطعة الفئوية الخسارة عبر الانتروبيا لمهام التصنيف متعددة الفئات باستخدام تسميات عدد صحيح.
أسئلة وأجوبة أخرى حديثة بخصوص تصميم شبكة عصبية:
- كيف يتم تقييم دقة النموذج المدرب مقابل مجموعة الاختبار في TensorFlow؟
- وصف بنية نموذج الشبكة العصبية المستخدم لتصنيف النص في TensorFlow.
- كيف تقوم طبقة التضمين في TensorFlow بتحويل الكلمات إلى متجهات؟
- ما هو الغرض من استخدام حفلات الزفاف في تصنيف النص باستخدام TensorFlow؟

