كشف تحقيق أجرته صحيفة نيويورك تايمز عن ظاهرة مقلقة على يوتيوب، حيث تروّج منصة الفيديو بقوة لمحتوى غريب ومُولَّد بالكامل بواسطة الذكاء الاصطناعي وموجّه للأطفال الصغار. فبعد تشغيل فيديو واحد من قنوات شهيرة مثل "CoComelon"، تبين أن أكثر من 40% من مقاطع "YouTube Shorts" المقترحة خلال جلسة مشاهدة قصيرة كانت عبارة عن صور مُصنّعة.

هذا المحتوى المُصنّع، الذي يهدف ظاهريًا لتعليم الحروف أو الحيوانات، غالبًا ما يكون مشوشًا وغير منطقي، ويحتوي على وجوه مشوهة وأجزاء جسم زائدة، ولا تتجاوز مدة أي مقطع 30 ثانية. يرى الخبراء أن هذا النمط يفتقر إلى البنية السردية والتكرار الضروريين لتعليم الأطفال الصغار، ومع ذلك، تحقق هذه الفيديوهات ملايين المشاهدات بسهولة.

الجاذبية الاقتصادية لهذه الظاهرة كبيرة؛ فصناع المحتوى، الذين يعمل الكثير منهم في الخفاء، حولوا أدوات الذكاء الاصطناعي إلى مصدر دخل سريع، حيث العائق منخفض والعائد مرتفع، والمحتوى يتدفق بلا توقف. هذا يشير إلى أن خوارزمية يوتيوب تعطي الأولوية للكمية الهائلة على حساب الجودة الفعلية والمحتوى التعليمي الموثوق.

أثناء تحليل الصحفيين، ظهرت نفس الحسابات التي تنتج محتوى الذكاء الاصطناعي بشكل متكرر، مما يؤكد أن الخوارزمية تدفع هذا النوع من الفيديوهات نشطًا. يتم إنتاج هذه المقاطع عدة مرات يوميًا، ويستخدم صناعها أدوات متاحة بسهولة مثل "Runway" و"Whisk" جوجل، معتمدين على دروس تعليمية لإنتاج محتوى يُحاكي القنوات التعليمية الموثوقة لجذب انتباه الآباء.

بعد أن شاركت التايمز أمثلة محددة مع يوتيوب، اتخذت المنصة إجراءات محدودة، حيث علّقت بعض القنوات من برنامج الشركاء وحذفت بعض الفيديوهات المخالفة. لكن يوتيوب لا يُلزم صناع المحتوى بالإفصاح عن المحتوى المُولَّد بالذكاء الاصطناعي في الرسوم المتحركة المخصصة للأطفال، مما يضع العبء الأكبر على الآباء لمراقبة هذا التدفق السريع وغير المتناسق من المحتوى الرقمي.