李林甫既身为宰相，又兼任着陇右、河西节度使，还是吏部尚书，他是集军政大权于一身，并且李隆基赐他实封（土地、财产、人身）三百户。
恩宠已经达到了极点的李林甫，在京城中的府第，建筑的华丽和气派已经超过了皇宫。李隆基又将长安城东的薛王别墅，赏赐给了他。知道李林甫十分喜爱声色之乐，李隆基就又赏赐给他两部女乐伎人。李林甫还有众多的侍妾，女宠、男宠共有五十多人
李林甫为了保住自己的权势，屡屡制造冤案，打击陷害自己的政敌。
户部侍郎兼御史中丞杨慎矜，本来同李林甫的关系十分密切，在诬陷韦坚一案中，就是杨慎矜秉承李林甫的旨意，跟踪韦坚，并对韦坚先进行告发的。后来，杨慎矜得到了李隆基的宠爱，李林甫就渐渐地对他提防起来，后来就慢慢地想除掉他。杨慎矜和王珙的父亲是表兄弟，从年轻时就与王珙十分熟悉。而王珙能够做官，与杨慎矜的极力推荐有着很大的关系。当王珙作了中丞，杨慎矜和他说话时，还是直接称呼他的名字。王珙依仗自己同李林甫的关系密切，对杨慎矜的这种做法很不满意，对杨慎矜渐渐露出了不满。王珙的母亲出身下贱，杨慎矜又曾经告诉过别人，王珙就对他怀恨在心了。但杨慎矜并没有介意，还是和原来一样地对待他，并且还常和他在一起谈论一些谶书上的事情。
杨慎矜和术士史敬忠往来密切，史敬忠对杨慎矜说，天下将要大乱了，劝杨慎矜在京城之外的偏僻的地方盖一座别墅，以备战乱使躲避居住。而有一段时间，杨慎矜父亲的坟地上，经常有血水流出，杨慎矜就请史敬忠做法，将血水消除了。杨慎矜对史敬忠十分感激，想对他进行感谢。他发现史敬忠对自己的侍婢明珠有意，明珠长得十分漂亮。杨慎矜就忍疼割爱，将明珠送给了史敬忠。史敬忠带着明珠回家，经过杨贵妃的姐姐柳氏的楼下，被柳氏发现了，柳氏命令他带着明珠上楼，向他索要明珠。史敬忠只得将明珠送给她。第二天，柳氏带着明珠进宫，被李隆基发现了，问明珠的来历。明珠不敢隐瞒，只得把事情的经过说了一遍。李隆基听了十分生气，认为杨慎矜是与术士相勾结，造谣惑众。不过他还是忍住了，没有发作。这件事很快也被杨钊（杨国忠）知道了，他就把这件事告诉了王珙。王珙就用这件事污辱杨慎矜。杨慎矜十分生气，就同王珙有了仇恨。李林甫知道杨慎矜和王珙结了仇，就暗中命令王珙将杨慎矜除去。王珙于是就派人向李隆基报告说：“杨慎矜是隋炀帝的孙子，家中藏有谶书，阴谋要推翻唐王朝，恢复他祖宗的基业。”李隆基大怒，命令立即将杨慎矜压入大牢，下诏刑部、大理和杨钊等共同对杨慎矜进行审理。张瑄是杨慎矜推荐的，李林甫指示人诬告他与杨慎矜在一起谈论谶书，对他用了多种刑罚，但张瑄就是不承认。最后，就用大木头绑在他的脚上，将他固定住。在他的脖子上套上大木枷。而木枷上有把手，让几个人一起用力拽把手，将张瑄的身子拉长了几尺，腰几乎就要断了，七窍出血，但张瑄什么也没有承认。李林甫又派吉温前去审讯史敬忠。吉温骗史敬忠说，杨慎矜都承认了，让他也承认。史敬忠就按照吉温的要求写了供状。之后，又以史敬忠作证人，审讯杨慎矜，杨慎矜也承认了，但却搜不到谶书。李林甫就命令人，在搜查杨慎矜的家时，将谶书带到杨慎矜的家中。谶书就这样搜到了。在这一案件中，又有几十人被处死，几百人被流放，李林甫又除掉了一批政敌。
咸宁太守赵奉璋，上告李林甫的罪状二十多条，状子还未到达京城，李林甫就知道了，他命令御史将赵奉璋逮捕入狱，说他时妖言惑众，将赵奉璋用棒击死。
在李林甫以前，唐朝的宰相都十分注重自己的德行，用自己的行为来做百官的表率，不用权势压人。那时，宰相外出时，跟随的随从也不过十来个人。百姓们遇见了，也不用躲避。李林甫自己知道作恶多端，仇家甚多，时刻害怕有刺客对自己行刺，外出时，动辄就用一百多步兵、骑兵保护自己，进行净街，远远地将街上的行人都赶走，一百多步之内，不得有任何其他的人。王公大臣们也纷纷躲避。而他在自己的家中时，就将一道道大门牢牢地关闭起来。家中的地面上，都铺上厚厚的石块，而房屋的墙中，都安上厚厚的板子。他整惴惴不安，日如临大敌。而在晚上睡觉时，他一夜之间要挪好几个地方，即使家里的人，也不知道他夜里睡在什么哪里。
李林甫的儿子李岫，害怕李林甫恶贯满盈，早晚有一天会得到报应。一天，他跟着李林甫游后花园，指着园中正在干活的园丁对李林甫说：“父亲你长时间地处在重要位置，百姓们对你已经十分怨恨，朝野的官员中也有不少的仇人。如果有一天，灾难突然降临了，你还能够同这些园丁们一样吗？”李林甫听了，十分不高兴地说：“现在大势已去，形势所迫，我又有什么办法？”李林甫也已经感觉到，自己的权势正在一天天削弱，他的末日也快要到来了。
杨国忠刚进朝为官时，李林甫对他并不在意。认为杨国忠的机智与狡诈远远不是自己的对手。等到贵妃杨玉环越来越受到李隆基的宠幸，杨家满门富贵之后，李林甫想对杨国忠再加以控制，已经来不及了。他的一些得力干将，如吉温等也纷纷离开他，改投到杨国忠的门下，而王珙也开始不买他的帐了。李林甫就想把杨国忠从朝廷中挤走，那时，西南少数民族发动叛乱，李林甫就以杨国忠兼任剑南节度使为由，让他去远镇西南边陲。杨国忠也清楚李林甫的这一阴谋，辞行之时，向李隆基说怕自己会不来了，李隆基安慰他，把边事安置好以后就立即回来，表示了要任命他为宰相的意图。李林甫内心虽然十分不悦，但也无可奈何了。这时李林甫已身患重病，力不从心了，不能再和杨国忠进行较量了。天宝十一年十月，李隆基去骊山温泉宫，李林甫抱病随行，旅途颠巅，病情加剧，即将死去。他服药无效，只得求神问卜，诬者告诉他说：“如果能见上皇上一面，病就可以立即好了。”家中人的通过内侍禀告了李隆基，李隆基想前去探视，但被左右拦住了。于是，李隆基就用了一个折中的办法，来挽救李林甫的性命。李隆基登上华清宫的降圣阁，命人将李林甫的病榻抬到阁下，让李林甫远远地观望。李隆基用红巾在空中摇晃，像是在为李林甫招魂，但这还是不能让李林甫起死回生，李隆基一命呜呼了。李林甫死后，朝廷中的不少文武官员都松了一口气。李林甫还没有下葬，杨国中就唆使安禄山出面，揭露李林甫的罪恶。安禄山心狠手毒，逼迫降将阿布思入朝见李隆基，说李林甫已经收他为义子，要他在边睡发动军士叛乱，李林甫在长安响应，想里应外合，夺取唐朝的天下。李隆基的女婿杨齐宣，也怕自己被株连而灭族，也立即出面，揭发李林甫的罪恶。李隆基听了十分震惊，立即下诏，剥夺李林甫的一切官衔，抄没他的全家财产，将李林甫家中的人，都流放到岭南以外。