رایانش ابری در سال 1960 مفهوم پیدا کرد.یکی از اعضای بنیانگذاران هوش مصنوعی به نام پروفسور جان مک کارتی در پیش بینی خود در مورد رایانش ابری چنین بیان کرد "رایانش ابری روزی به عنوان یک صنت همگانی سازماندهی خواهد شد."
در سال نیز 1966 پارک هیل داگلاس در کتابی با عنوان "مشکل صنعت همگانی رایانه" به مواردی مانند توهم دسترسی نامحدود ،تدارک الاستیک، ارائه امکانات به صورت صنعت همگانی به مراکز خصوصی و دولتی و انجمنی اشاره کرد.
اما واژه هایی که در دهه ی 1960 استفاده شد هیچ کدام مفهوم امروزی ابر را نداشت و به صورت لفظی از آن به عنوان صنعت همگانی استفاده می شد.
در سال 1969 ایده شبکه کهکشانی یا شبکه بین کهکشانی که امروزه آن را اینترنت می نامیم توسط J.C.R.Licklider مطرح شد و مدتی بعد موسسه تحقیقات امریکا شبکه ARPANETرا توسعه بخشید و فعال کرد تا هرشخصی بتواند به برنامه ها و اطلاعات از سراسر این شبکه دسترسی داشته باشد.
در دهه 1970 نرم افزار های مجازی سازی مانند VMware معرفی شدند و توانستد چندین سیستم عامل را در یک سیستم عامل میزبان قرار بدهند و هریک را به صورت جداگانه سرویس دهی کنند.
اولین تعریف شناخته شده از رایانش ابری در سال 1997 توسط پروفسور رامناث چلاپا (Ramnath Chellappa)در دالاس شکل گرفت.او در سخنرانی خود چنین بیان کرد :"یک نمونه محاسباتی در جایی که حداکثر توان محاسباتی قرار دارند به زودی از مرز های اقتصادی گذشته و به تنهایی قادر به محاسبات نخواهد بود و باید از محدودیت های فنی گذر کرد."
به بیان ساده تر می توان گفت منظور از صحبت وی پردازش هایی است که امروزه در برخی از نرم افزار ها و سرویس ها از عهده ی یک سرور خارج بوده و چون مرز توانایی پردازنده ها بیشتر نیست باید چندین سرور در کنار هم سرویس هارا پردازش کنند.
در اواخر دهه 1990 شرکت Salesforce.com فعالیت خود را در حوزه ی تبدیل اپلیکیشن های جامع و کاربردی سازمان ها به صورت وب آغاز کرد.فعالیت این شرکت شروعی بود تا سازمان ها بتوانند محوریت فعالیت خود را با یک نرم افزار و به صورت یکپارچه روی یک بستر(اینترنت) انجام دهند.
می توان گفت دهه 2000 اوج شکوفایی تکنولوژی Cloud Computing بود.در سال 2003 شرکت Xen نرم افزار Virtual Machine Manitor را توسعه بخشید.این سیستم اجازه می داد تا تعداد زیادی سیستم عامل مهمان روی چندین سرور قرار بگیرند و از منابع سرور ها به صورت اشتراکی استفاده نمایند.
به این ترتیب بود که ایده cloud computing ایجاد شد و به دنبال آن تکنولوژی cloud computing نیز شکل گرفت.
