كيف يمكننا التعامل مع البيانات الضخمة؟

تشير البيانات الضخمة إلى مجموعات كبيرة ومتنوعة من البيانات التي تنمو بمعدلات متزايدة باستمرار، بحيث تستعصي لضخامتها أو تعقيدها على التخزين أو المعالجة بإحدى الأدوات أو التطبيقات المعتادة لإدارة هذه الكميات الهائلة من البيانات وطبيعة نموها المستمر، حيث تتمثل درجة صعوبة إدارة هذه المجموعات كونها تتزايد بشكل سريع بمرور الوقت، وأيضاً لأن غالبية البيانات غير منظمة وتأتي من مجموعات متنوعة من المصادر، وذلك على اختلاف طرقها سواءً كانت على شكل ملفات نصية، أو مقاطع صوتية، أو مقاطع فيديو، أو وسائط الأخرى. ولهذا نحتاج إلى أن نتعرف على أشكال التعامل مع هذا الكم الكبير من البيانات.

التعامل مع البيانات الضخمة

يمكن التعامل مع البيانات الضخمة في كل ما يتعلق مع البيانات المتزايدة وسوف نتناول ثلاث تعاملات رائجة تعمل عليها البيانات الضخمة بشكل دقيق ومنظم للغاية، وهي كالتالي:

التعامل مع تدفق البيانات: تشمل هذه الفئة كل التعاملات التي تصل من أنظمة الحاسب الألي المتصلة بمركز تجميع البيانات، حيث يمكن تحليل هذه البيانات عند وصولها واتخاذ القرارات بشأن البيانات التي يجب الاحتفاظ بها والتي لا يجب الاحتفاظ بها وما الذي يتطلب المزيد من التحليل منها.

التعامل مع بيانات وسائل الاعلام الاجتماعية: وهي التعاملات التي تحدث إثر التفاعلات الاجتماعية وتخزين بياناتها، وهي مجموعة متزايدة جداً من البيانات والتي تقبل التوسع بشكل كبير وغالبًا ما تكون في أشكال غير منظمة أو شبه هيكلية، لذا فهي تمثل تحديًا فريدًا عندما يتعلق الأمر بالتحليل.

التعامل مع المصادر المتاحة للجمهور:  حيث تتوفر كميات هائلة من البيانات من خلال مصادر البيانات المفتوحة تعمل هذه المصادر على تحليل جميع البيانات المتاحة للجمهور ومعالجتها وتقديم إحصائيات الاستخدام بشكل كامل.

من أشهر أنظمة إدارة البيانات الضخمة Hadoop وهي نظام مفتوح المصدر تستخدمها شركات عملاقة مثل LinkedIn ولكن يظل السؤل قائماً هل باستطاعة جميع الشركات التعامل مع البيانات الضخمة؟

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

يمكن الاستعانة بادوات البيانات الضخمة من خلال الحوسبة السحابية

كما ان البيانات الضخمة ليست نوعاً واحدا وانما يمكن تقسيمها الى ثلاثة انواع

البيانات المهيكلة التي يمكن تخزينها في قواعد البيانات

البيانات الغير مهيكلة مثل الصور والفيديوهات

والبيانات شبه المهيكلة وهي نفس البيانات المهيكلة ولكن لم يتم تخزينها في قواعد بيانات

مجهول أضف ردا
كما ان البيانات الضخمة ليست نوعاً واحدا وانما يمكن تقسيمها الى ثلاثة انواع؟

بالطبع يا صديقي طارق، وقد تم توضيح الانواع الثلاث في المساهمة من قبيل التعامل مع بيانات وسائل الاعلام الاجتماعية وكذلك التعامل مع تدفق البيانات وأيضاً التعامل مع المصادر المتاحة للجمهور، ولاكن برأيك هل يمكن التعامل مع البيانات الضخمة للشركات الصغيرة والمتوسطة؟

بحسب خبرتي وتعاملي في البرمجة وقواعد البيانات فإن الأمر ليس له علاقة بحجم الشركة وإنما بما تمتلكه الشركة من كادر بشري له خبرة في التعامل مع البيانات وأيضاً توفر الوسائل والأدوات التي من شأنها تسهيل عملية التعامل مع البيانات الضخمة

مجهول أضف ردا

الحاجة يا طارق هي من تفرض التعامل مع قواعد البيانات الضخمة، وكون خبرتك في البرمجة فأنت تعلم أن التعامل مع البيانات الكبيرة علي الانظمة التقليدية وتنظيمها امر معقد للغاية إذا لم يتم بناءة بشكل دقيق ومنظم من البداية فما بالك بالتوسع المستمر للبيانات بكل تأكيد لن يصلح في ذلك نظام تقليدي، ولهذا تفرض حاجة الشركة من قبيل الكم الكبير من بياناتها وتوسعة بشكل مستمر إلي التعامل مع البيانات الضخمة.

ليس بالضروري ان كانت شركة صغيرة او متوسطة ان تكون مستخدمة للادوات والانظمة التقليدية.

فهناك شركات حديثة ولم تنتشر بالشكل المطلوب ولكنها تمتلك أنظمة حديثة لا تمتلكها الشركات الكبيرة.

بل ان بعض الشركات الكبيرة تستخدم انظمة تقليدية وعند اي مشكلة في البيانات ستجدها هائمة على وجهها

ولكن يظل السؤل قائماً هل باستطاعة جميع الشركات التعامل مع البيانات الضخمة؟

طالما يوجد ازدياد في البيانات فإن ذلك سيقابله تطور و تحديث في الأدوات ، يوجد العديد من الأدوات مفتوحة المصدر وظيفتها التعامل مع هذه البيانات الضخمة ، إن استمرت هذه البيانات بالنمو حجماً و أهمية، ستستمر هذه الأدوات بالنمو بكل تأكيد.

وهذه طبيعة التقنية توفر الأدوات التي يحتاجه السوق بأشكاله المختلفة والعمل علي مواكبة هذا التطور بشكل مستمر، ولهذا تعمل الشركات التقنية علي توفير الملاز الأمن لحفظ البيانات ومر هذا الأمر بتدرجات كثيرة منها السيرفرات المحلية والسيرفرات المشتركة والأن نتعامل مع خدمة مراكز البيانات.

هل باستطاعة جميع الشركات التعامل مع البيانات الضخمة؟

لا أعتقد أن الاستطاعة متوفرة الآن ولكنها ضرورية في المستقبل لأن البيانات أصبحت عملة العصر الحديث ومن يمتلكها فقد امتلك كل شيء. وهي قوة يجب لمن يمتلكها أن يتمكن من إدارتها بشكل كبير.

لكن لم أفهم من مساهمتك ماهو حجم البيانات التي يمكننا أن نطلق عليها هذا المصطلح؟ هل أي حجم كبير؟

قرأت عن موضوع بيانات عملاء أوبر وقد كان يقدر بألاف التيرا بايتس. هل يمكن اعتباره Big data هنا؟

يتعلق الأمر بتشعب البيانات وتوسعها بشكل كبير علي سبيل المثال خاصة التعليقات علي فرض حفظها في قاعدة بيانات تقليدية مثل سيكول سيرفر كمثال، لو إفترضنا في ذلك نشر مساهمة ما عملية التفاعل التي تحدث عليها من تعليقات ورد علي التعليقات وهذا قام بالرد علي ذلك وهكذا هذا الأمر غير منطقي تماماً في تلك الأنظمة التقليدية التي تعتمد علي مبدء العلاقات بين الجداول، لذلك هنا يبرز دور أنظمة البيانات الضخمة لتحل هذه المشكلات وغيرها، كالتي تعني بحجم البيانات مثلاً الذي يسببة هذا التوسع الكبير في نشاط المستخدمين.