1月28日，确定以原广东陆军学校和广东海军学校的旧址长洲要塞--黄埔为军官学校的校址(原水师学堂和陆军小学旧址)，故称黄埔军校。2月6日，设筹备处于广州南堤2号(今广州沿江中路239号对面)，正式开始筹建军校的工作。由于被委任为筹备委员会委员长的蒋介石不满于孙中山欲委他人为军校校长，而自己徒为他人作嫁衣，在2月21日突然辞职，且未经孙中山批准便擅自离开广州返回浙江老家，使军校筹备工作一度中断。孙中山批示不同意蒋介石辞职，但为了不影响军校筹备工作的进程，又于2月23日任命廖仲恺代理筹备委员会委员长。廖仲恺忠心耿耿，积极进行筹备工作，同时竭力催促蒋介石回广州复职。直至4月21日，蒋介石才返校。关于学生来源，筹备委员会决定在全国19个省进行招考。为切实作好招生工作，筹备委员会决定成立军校试验委员会，以蒋介石为委员长，王柏龄、邓演达，彭素民、严重、钱大钧、胡树森、张家瑞、宋荣昌、简作桢等9人为委员，经孙中山批准于3月21日成立。因当时蒋介石离职，指定李济深为代理委员长.

1924年5月，黄埔军校成立，正式名称为"中国国民党陆军军官学校"，孙中山兼任军校总理。军校初定设立教授、教练、管理、军需、军医五部，由各筹备委员暂行分工主管。5月3日，任命蒋介石为校长，在总理领导下，负责处理校务工作。5月9日，委任廖仲恺为军校的中国国民党代表。随后，任命李济深为教练部主任，邓演达为副主任兼总队长;王柏龄、叶剑英为教授部正、副主任;戴季陶为政治部主任，张申府(当时是共产党员)为副主任。11月，中共广东区委委员长周恩来接任政治部主任;林振雄为管理部主任;周骏彦、俞飞鹏为军需部正、副主任;宋荣昌、李其芳为军医部正、副主任;何应钦为战术总教官。11月29日，又增设教育长，由胡谦担任，后由王柏龄、何应钦、邓演达等担任。后又增设参谋处，以钱大钧为处长。还聘请布留赫尔(1889-1938)等苏联红军将领为军事顾问。

当时，黄埔军校招生消息传出后，全国各地有志青年报考十分踊跃。尽管当时全国大多数省区尚在军阀统治之下，军校不能在这些地区公开招生，只能委托各地党组织及参加国民党"一大"的代表物色和介绍，但报考人数至3月27日已达1200余人，超过计划招生人数三倍多，其中粤籍学生最多，大大超过了原来的预计。报考青年的文化水准也较高，约有1/3是中学或专门学校毕业生。但也有一些人把报考军校作为追名逐利的捷径，想通过不正当办法进入军校。为保证学生质量，军校试验委员会于4月7日在广州《民国日报》刊登公开启示，谢绝各方推荐函件，郑重声明坚决按考试成绩，择优录取新生。但考试成绩达到录取标准的学生仍大大超过招生名额，故决定扩大招生。

5月初，第一期共录取正取生350人，备取生120人。中国共产党非常重视培训革命军事干部的工作，在黄埔军校招生期间，各地党组织积极动员和选送符合条件的共产党员、青年团员和革命青年报考。在第一期录取生中，约有共产党员50~60人，湖南考生、共产党员蒋先云以第一名的优异成绩被录取入学。

共产国际和苏联政府对创办黄埔军校给予大力支持。1924年初，苏联为黄埔军校派来了以切列潘诺夫为组长的第一个军事顾问小组，参加军校的筹建工作，还给军校赠送了武器和经费。随后，苏联又派遣军事顾问团，团长瓦西里·布留赫尔(加伦将军)率领40多个苏联军事专家在黄埔军校工作。这是黄埔军校培养革命军事人才能在短期收效的一个重要原因。

5月5日，新生开始入学，编为四队接受新兵训练。正取生编为第1、2、3队，备取生编为第4队，分别以吕梦熊、茅延桢、金佛庄、李伟章为各队队长(其中茅、金是共产党员)。6月16日，举行开学典礼。孙中山发表演说，着重讲了办学宗旨和办学方针。他首先郑重宣布，创办黄埔军校的目的，"就是创造革命军，求挽救中国的危亡"。他强调办军校要学习苏联经验，指出俄国革命之能成功，是"因为有了革命军做革命党的后援。""我们现在开办这个学校，就是仿效俄国。"他说，只有革命党的奋斗，没有革命军的奋斗，革命便不能完全成功。开办这所军校，"就是要从今天起，把革命的事业重新来创造，要用这个学校内的学生做根本，成立革命军"。他勉励军校学生要立大志做革命军人，"一生一世都不存升官发财的心理，只知道做救国救民的事业。"他还指出:做革命军，除了要有坚强的革命意志和理想，还要有"高深的学问做根本"。因此，一定要学好革命理论和军事技术。孙中山对第1期学生寄予极大的信赖和深切的期望，在他结束讲话时，表示"要用这五百人做基础，造成我理想的革命军"，以完成拯救中国的大业。他号召全体学员努力养成和发扬革命党人以一当百、视死如归的革命精神，为推翻帝国主义和封建统治，完成革命事业而奋斗。

抗日战争时期，黄埔军校旧址曾被炸毁，而后几经沧桑，面貌改变很大。1964年作了一次较大的修缮，基本恢复了原貌。1984年建立黄埔军校旧址纪念馆，现在军校旧址的纪念建筑有军校正门、中山纪念碑、中山故居、俱乐部、游泳池及东征烈士墓等。东征烈士墓前临珠江，气势雄伟，有"小黄花岗"之称。孙中山纪念堂，现辟为黄埔军校史料陈列室。黄埔军校旧址和校史，生动地展示了第一次国共合作时期国共两党携手共同进行反帝反军阀斗争的历史。黄埔军校旧址为全国重点文物保护单位。