元军继续进军，湖北制置使高达以江陵降元。元军顺长江东下，所过之处，宋朝守将相继投降。只有攻打扬州时，守将李庭芝、姜才拒降死守。宋将张世杰与刘师勇、孙虎臣等结集战船万余艘，在焦山与元军阿术、张弘范部大战，想以此来扭转局面，但宋军大败。后孙虎臣在泰州陷落时自杀。文天祥、张世杰商议再战，但宰相陈宜中一意求降，不予采纳。另一宰相（左相）留梦炎则弃官逃跑。
景炎元年（1276年）初，元军阿里海涯部围攻潭州（今湖南长沙）三个月后，潭州城破。知州李芾坚持到最后。元兵入城，李芾不愿做俘虏，让部下沈忠将他及全家杀死。随后，沈忠也把自己一家杀死，最后自刎殉国。
潭州破后，又有十多个郡县相继降元，宋朝已经是危在旦夕。文天祥、张世杰请皇室转移海上避难，由他们领兵背城一战，但陈宜中不许。太皇太后、陈宜中先后派宗正少卿陆秀夫、监察御史刘岊到元军求降，随后又送上传国玉玺和宋恭帝的降表。在决定降元同时，太皇太后命秀王赵与择、杨淑妃等护从益王赵昰和广王赵昺出海。伯颜接到传国玉玺和降表，要求宰相陈宜中来军营商议投降事。陈宜中害怕被杀，趁黑夜逃往温州。张世杰、刘师勇见南宋皇室决意投降，临安难保，于是领兵南下，准备继续抗元。刘师勇到海上后，见败局难以挽回，忧愤纵酒而死。
南宋朝廷一意投降，谢道清加给文天祥右丞相兼枢密使的称号，要文天祥和左丞相吴坚等去元军议降。文天祥打算利用这一机会到元军中探听情况，回来再作抗战的部署。不料，伯颜放回吴坚等人，将文天祥扣留在军营，随后又押解北上。三月，伯颜入临安，将宋恭帝及后宫嫔妃并宗室官吏俘虏北上。
宋恭帝被俘，南宋实际上已经从形式上宣告灭亡，但这并不代表南宋的历史就此结束，南宋遗臣先后拥立了两位皇帝，奋力抗元，坚持斗争三年，从而在中国历史上留下了一幅极为悲壮的画卷。
临安陷落时，益王赵昰和广王赵昺正逃往婺州（今浙江金华），伯颜进入临安后，派元军追赶，他们又逃到温州。南宋不甘心投降的文臣武将听到消息后，纷纷赶往温州投奔二王，力图东山再起。这其中有礼部侍郎陆秀夫和将领苏刘义，张世杰不久也从定海到来，加上之前从临安逃到温州的宰相陈宜中。德祐二年（1276）五月初一，南宋遗臣拥立益王赵昰为帝（宋端宗），改年号为景炎。尊宋端宗母杨淑妃为皇太妃，进封赵昺为卫王。陈宜中任左相兼枢密使，张世杰任枢密副使、陆秀夫为签书枢密院事，苏刘义为殿前指挥使。同时下诏李庭芝等各地尚在抗战的将领分道出师，兴复宋室。
文天祥被元军押解北上，经过镇江时，乘元兵不备，和下属杜浒等十二人于夜间逃出，直奔真州。当时有谣传说元军派一个宋朝投降的丞相回去劝降。坚守扬州的李庭芝误以为文天祥就是此人，命真州守将苗再成杀文天祥。幸好苗再成不忍心下手，将文天祥骗出城外，故意让他离去。文天祥被误解后，还想到扬州找李庭芝说个明白，不料李庭芝已发出告示缉拿他。文天祥只好改名换姓，从海上赶到温州，途中经历了九死一生。这期间，文天祥写了很多诗，后辑成一集，题名《指南录》，记叙了他这次异常艰险的行程。文天祥到达福州，立即被任命为枢密使，同都督诸路军马。
即使在大敌当前的情况下，小朝廷仍然陷入了党争，张世杰大力排挤文天祥等人。文天祥对张世杰擅权极为不满，又与宰相陈宜中意见不合，于是离开了小朝廷，以同都督的身份在南剑州（治今福建南平）开府，号召各地起兵。
景炎二年（1277年），文天祥从福建进入江西，江西各地人民纷纷响应。文天祥率众夺取了不少县城，进驻兴国，派部将赵时赏、邹沨分别领兵攻打赣州和吉州的州城。元军李恒部发动反攻，赵时赏、邹沨均战败，与文天祥一起撤到庐陵。元军追至庐陵，文天祥部下的老将巩信率领士兵数十人守方石岭的山口，为了掩护文天祥撤退，巩信等全部牺牲。第二天，文天祥一行又被元军追及。为了让文天祥脱身，赵时赏冒称是文天祥，被元军抓去，被害牺牲。文天祥收拾残部，进入五岭山中。次年二月，进兵广东海丰，向潮州移动，准备和张世杰部会合。
景炎三年（1278年），元军派出水军，从水路追击宋端宗小朝廷。宋端宗从潮州一直被逃到碙洲（今广东吴川县南海中）。当时，张世杰等打算去往占城（在越南南部），以作为长久之计。宰相陈宜中主动请求先去占城联系相关事宜，结果却乘机逃走，一去不回，后来死在暹罗国（今泰国）。
宋端宗时年十一岁，还是个孩子，一路担惊受怕的逃亡生活，又因为在海上受到飓风的惊吓，不久得病而死。
宋端宗一死，群龙无首，许多大臣灰心丧气，打算就此散去。眼看小朝廷就要分崩离析，陆秀夫挺身而出，大声说：“如果大家都走了，度宗皇帝还有一子尚在，将如何处置！古人有靠一城一旅复兴的，而我们现在百官有司都在，有上万将士，只要老天不绝赵氏，怎么不能重新立国呢！”于是，陆秀夫、张世杰又拥立七岁的卫王赵昺作皇帝，由杨太妃垂帘听政，陆秀夫、张世杰协力辅佐。
张世杰认为碙洲不可久留，他提到在新会县南八十里的海中，有一座崖山，地势险要，可扼以自守。于是，这年六月，宋帝赵昺的小朝廷迁到崖山。张世杰派人入山伐木，造行宫及军屋千余间，当时尚有官、民、兵二十余万，多居住在船中，资粮则从广东沿海州郡征集。
文天祥听说宋帝赵昺即位，上表自劾兵败江西之罪，请求入朝，但不允许，只加封文天祥为少保、信国公。文天祥只得与部将邹沨、刘子俊、杜浒等在潮阳集结。
元朝廷以张弘范为都元帅，李恒为副，率领水军和骑兵，准备消灭最后的残余宋军，文天祥则首当其冲。当时有个土匪陈懿，跟文天祥有仇，便主动充当元军的向导，引领张弘范军到潮阳。文天祥兵少，无力与元军争锋，便率军退出潮阳，转到海丰五坡岭一带。张弘范派军紧追不舍，元军先锋张弘正追到时，文天祥与部将邹沨、刘子俊、杜浒等人正在吃饭，仓促之间来不及应战，便被俘虏。邹沨自杀。文天祥吞脑子（药名，多吃能致死）自杀，却没有死。刘子俊自称是文天祥，与文天祥争着承认。元兵判断出真伪后，将刘子俊放在锅里煮死。杜浒忧愤不食，不久也死去。文天祥则被押到潮阳见张弘范。左右喝令他下跪，文天祥始终不屈。张弘范很仰慕文天祥的人品，亲自为其解开绳缚，以宾客之礼相待。文天祥坚决求死，张弘范不许，将他押在船中。
祥兴二年（1279年）正月，张弘范得知宋军主力在崖山，于是发水军大举进攻。决战前，张弘范要文天祥写信给张世杰劝降，文天祥说：“我不能保护父母，难道还能教别人背叛父母吗？”张弘范不听，一再强迫文天祥写信。文天祥于是将自己前些日子所写的《过零丁洋》一诗抄录给张弘范。诗的最后两句是“人生自古谁无死，留取丹心照汗青”。张弘范见文天祥忠贞不屈，只好不再强迫。张弘范又发现元军中有个姓韩的军官是张世杰的外甥，于是连续三次派他去招降，张世杰不为所动，说：“我知道投降就有富贵，但义不可移！”张弘范又派人到崖山对士民们说：“你们陈丞相（陈宜中）已逃走，文丞相被俘虏，你们还要想怎样呢？”但士民中也没有背叛的。劝降不成，一场大战不可避免。
其实，此时元军只有数万人，且不习水战，而南宋小朝廷有军民二十万人，尚可背水一战。有人向张世杰提出：“海口之地，至关重要，倘若元军以水师扼守海口，则宋军不能进退。不如派兵防守，若能侥幸取胜，即是国家的福气；不胜，还可撤走。”但张世杰担心大军调动会导致士卒离散，再也无力抗战，于是主动放弃对崖门入海口的控制，而是将千余艘战船背山面海，结成一字长阵，中间用大绳连接，联舟为垒，四面围起楼栅，结成水寨方阵。又将行宫焚掉，赵昺也迁到海上，御船居于方阵之中，打算就此死守。
张世杰此举有两大失误，一是放弃了对入海口的控制权，相当于把主动权交给了对方；二是把千余战船用大索结成水寨，丧失了机动性。不久，张弘范果然派水师占领海口，断绝了宋军打柴取水的生命线。宋军没有淡水，吃了十多天干粮，渴得不得了只好喝海水，呕吐不止，士卒疲乏无力，战斗力锐减。
正月底，元军大批战船陆续到达。元将李恒也从广州领兵赶到。
二月初六早晨，暴风雨交加，元军突然发起猛攻。双方都知道这是最后的决战，因此战斗异常激烈，双方均是短兵相接，展开肉搏。元将李恒指挥水军利用早晨退潮、海水南流的时机，渡过平时战舰难以渡过的浅水，从北面对宋军发动了一场突袭。到中午，北面的宋军已被元军击溃。南面的元军又在张弘范的指挥下，利用中午涨潮、海水北流的时机，向宋军发动了另一次进攻。宋军南北受敌，士兵又身心疲惫，无力战斗，全线溃败。宋军将领翟国秀、凌震等解甲降元，张世杰、苏刘义从黎明坚持到黄昏，自知无望，斩断船索，率十六只战船拥杨太妃突围出去。
而赵昺的御船由于过于庞大，被外围的船只阻隔在中间，无法突围，张世杰不得不派小舟前去接应。当时天色已晚，风雨昏雾四起，咫尺不能相辨，陆秀夫唯恐小船为元军假冒，断然拒绝来人将赵昺接走。张世杰无奈，只得率战舰护卫着杨太后杀出崖门。
宋军败局已定，陆秀夫见大势已去，先逼迫自己的妻子儿子跳海自杀，然后对赵昺说：“国事至此，陛下当为国捐躯。德祐皇帝（指宋恭帝）受辱已甚，陛下不可再辱！”随即抱着九岁的宋帝赵昺投海而死。赵昺身边的很多大臣宫人也都投海自尽。这就是著名的崖山之战。宋军还有完好无损的船只八百艘，全部落入张弘范之手。张弘范为了记录自己灭宋的不世之功，派人在崖门的巨石上刻下了“镇国大将军张弘范灭宋于此”十二个大字。后来明朝建国后，有人将张弘范所镌刻的字迹全部铲去。
数天之后，漂浮在海上的尸体多达十几万，惨不忍睹。陆秀夫的遗体浮出海面时，被当地人收葬。元军在清理战场的时候，发现一具身穿黄衣的幼童尸体，身上带有金玺，上书“诏书之宝”四字，送交张弘范，经确认正是赵昺随身携带的玉玺。张弘范大喜，立即派人去寻找赵昺尸体，但已经下落不明。
南宋自宋高宗赵构始，止于宋帝赵昺，共历九帝，统治一百五十三年，至此灭亡。
张世杰突围以后，几天后才得知赵昺的死讯，他还想奉杨太妃为首，图谋再举。杨太妃得知赵昺已死，抚胸大哭说：“我忍死漂泊至此，正为赵氏一块肉，如今无望了！”说罢也投海自杀。
张世杰将杨太妃葬于海滨后，已经完全丧失了信心和希望。当他移师到海陵山（今广东阳江县之南海中）一带时，遇到了强烈的飓风。将士劝他登岸躲避飓风，张世杰叹息道：“无以为也。”他相信上天有灵，坚持不肯上岸，还登上舵楼祈祷说：“我为赵氏矣，亦已至矣。一君亡，复立一君，今又亡。我未死者，庶几敌兵退，别立赵氏以存祀耳。今若此，岂天意耶！”（《续资治通鉴？？卷一百八十四》）结果风暴越来越大，最后船被风浪打沉。张世杰终于未能实现他收复失地的夙愿，饮恨葬身在平章山下大海之中。另一将领苏刘义出海后为部下所杀。南宋的最后一支军队至此灭亡。
据说陆秀夫死后，其最小的儿子陆自立（号复宋）和其他南宋遗民乘番舶外逃至南洋爪哇岛一带，陆自立被众人推举为首领，厉兵秣马，以图复兴宋室。但不久后，爪哇国突然发生内乱，陆自立只得率众离开爪哇，来到爪哇北部沿海三百余里的顺塔，并自立为顺塔国王。明永乐九年（1411年），顺塔国王曾派遣使者进贡方物给明王朝。
崖山之战后，张弘范将文天祥押到元大都后，请示元世祖，该如何处置。元世祖忽必烈说：“谁家无忠臣？”命令张弘范对文天祥以礼相待，将文天祥软禁在会同馆。之后，元朝派前宋朝宰相留梦炎劝降，结果却被文天祥骂走。元朝又派俘虏来的亡国皇帝赵显去劝降。文天祥只是连声说：“圣驾请回。”赵显也不好再说下去。元世祖大怒，下令�