上海合作组织是在“上海五国”元首会晤机制的基础上成立的。
2001年6月14日，“上海五国” 元首在上海举行第六次会晤，乌兹别克斯坦以完全平等成员的身份加入“上海五国”。15日，6国元首举行首次会晤，并签署了《上海合作组织成立宣言》，宣告上海合作组织正式成立。
2002年6月7日，上海合作组织成员国元首在圣彼得堡举行第二次会晤，签署《上海合作组织宪章》。宪章对上海合作组织宗旨、组织结构、运作形式、合作方向及对外交往等原则作了明确阐述，标志着该组织从国际法意义上得以真正建立。
2003年5月29日，上海合作组织成员国元首第三次会晤在莫斯科举行，讨论了在新形势下如何抓住机遇、应对挑战、加强协调、扩大合作、促进地区和平与发展等重大问题，并达成广泛共识，签署了《上海合作组织成员国元首宣言》。时任中国驻俄罗斯大使张德广被任命为该组织秘书长。
2004年6月17日，上海合作组织成员国元首第四次会晤在乌兹别克斯坦首都塔什干举行。塔什干峰会标志着成立3年的上海合作组织正式结束初创阶段，进入了全面发展的新时期。在这次峰会上，蒙古国被吸收为上海合作组织观察员。
2005年7月5日，上海合作组织成员国元首第五次会晤在哈萨克斯坦首都阿斯塔纳举行。6国元首签署了《上海合作组织成员国元首宣言》等重要文件，并决定给予巴基斯坦、伊朗、印度观察员地位。
2006年6月15日 上海合作组织成员国元首理事会第六次会议在上海举行。六国元首签署了《上海合作组织五周年宣言》，发表了《上海合作组织成员国元首理事会第六次会议联合公报 》。
