Zasada działania chmury obliczeniowej polega na przeniesieniu całego ciężaru świadczenia usług IT (danych, oprogramowania, mocy obliczeniowej) na serwer i umożliwienie stałego dostępu do niego komputerom klientów. Wystarczy zalogować się z jakiegokolwiek komputera z dostępem do Internetu, by zacząć korzystać z chmury obliczeniowej.

Chmura obliczeniowa jest szerokim pojęciem, zmierzającym w takim kierunku, aby całe oprogramowanie było instalowane na serwerze, zaś w komputerze klienta znajdował się tylko interfejs do komunikacji z tym oprogramowaniem. Oprogramowanie nie jest kopiowane i powielane w komputerze klienta, więc klient nie narusza praw autorskich i nie musi wykupować licencji, płaci jedynie za użytkowanie programów. Klient nie instaluje oprogramowania na serwerze.

Dokumenty i dane klienta przechowywane są na serwerze, na ich bezpieczeństwo nie mają wpływu ewentualne awarie komputera klienta.

Szybkość obliczeń zależy od mocy obliczeniowej serwera. Moc obliczeniowa (procesory, pamięć RAM, przestrzeń dyskowa, przepustowość łącza internetowego itp.) może być zwiększana lub zmniejszana na życzenie klienta, jest ograniczona tylko wielkością zasobów usługodawcy. Opłaty naliczane są za faktycznie wykorzystaną moc obliczeniową w danym czasie.