Es en el Renacimiento cuando las nuevas necesidades de representación del arte y de la técnica empujan a ciertos humanistas a estudiar propiedades geométricas para obtener nuevos instrumentos que les permitan representar la realidad. Aquí se enmarca la figura del matemático y arquitecto Luca Pacioli, de Leonardo da Vinci, de Alberto Durero, de Leone Battista Alberti, de Piero della Francesca, por citar sólo algunos. Todos ellos, al descubrir la perspectiva y la sección, crean la necesidad de sentar las bases formales en la que cimentar las nuevas formas de Geometría que ésta implica: la Geometría proyectiva, cuyos principios fundamentales aparecen de la mano de Desargues en el siglo XVII. Esta nueva geometría de Desargues fue estudiada ampliamante ya por Pascal o por de la Hire, pero debido al interés suscitado por la Geometría Cartesiana y sus métodos, no alcanzó tanta difusión como merecía hasta la llegada a principios del siglo XIX de Gaspard Monge en primer lugar y sobre todo de Poncelet.

Pero es sin duda la aparición de la geometría analítica lo que marca la Geometría en la Edad Moderna. Descartes propone un nuevo método de resolver problemas geométricos, y por extensión, de investigar en geometría. 
 El nuevo método analiza la geometría utilizando ecuaciones algebraicas. Se cambia la regla y compás clásicos por expresiones numéricas que se pueden representar mediante coordenadas cartesianas. Utilizando notación actual, dicho método se expresa así: 
 En un plano se trazan dos rectas perpendiculares (ejes) –que por convenio se trazan de manera que una de ellas sea horizontal y la otra vertical–, y cada punto del plano queda unívocamente determinado por las distancias de dicho punto a cada uno de los ejes, siempre y cuando se dé también un criterio para determinar sobre qué semiplano determinado por cada una de las rectas hay que tomar esa distancia, criterio que viene dado por un signo. Ese par de números, las coordenadas, quedará representado por un par ordenado (X,Y), siendo X la distancia a uno de los ejes (por convenio será la distancia al eje vertical) Y y la distancia al otro eje (al horizontal). 
 En la coordenada X, el signo positivo (que suele omitirse) significa que la distancia se toma hacia la derecha del eje vertical (eje de ordenadas), y el signo negativo (nunca se omite) indica que la distancia se toma hacia la izquierda. Para la coordenada Y y, el signo positivo (también se suele omitir) indica que la distancia se toma hacia arriba del eje horizontal (eje de abscisas), tomándose hacia abajo si el signo es negativo (tampoco se omite nunca en este caso). A la coordenada X se la suele denominar abscisa del punto, mientras que a la Y, y se la denomina ordenada del punto.

La aparición de la Geometría Analítica trae consigo una nueva forma de entender la Geometría. El nuevo método, algebraico, sustituye al antiguo, el sintético, consiste en establecer, unos axiomas, unas definiciones y deducir de ellos los teoremas. El método sintético está a estas alturas casi agotado (aunque aun dará algunos resultados interesantes, como la característica de Euler, la naturaleza de estos resultados no es ya tanto geométrica como topológica, y los resultados realmente importantes que se hagan en adelante en el campo de la Geometría ya vendrán de la mano de métodos algebraicos o diferenciales), da paso al método algebraico: estudio de los objetos geométricos como representaciones en el espacio de ciertas ecuaciones polinómicas, o dicho de otro modo, del conjunto de raíces de polinomios. El método sintético sólo volverá a abordarse cuando aparezcan las geometrías no euclídeas, y definitivamente deja de ser un instrumento de investigación geométrica a principios del siglo XX, quedando relegado a un conjunto de instrumentos y herramientas para la resolución de problemas, pero ya como una disciplina cerrada.

El método algebraico se ve posibilitado por un avance en Álgebra hecho durante el siglo XVI, la resolución de las ecuaciones de grado 3º y 4º. Esto permite generalizar la Geometría, al estudiar curvas que no son dadas por polinomios de segundo grado, y que no pueden construirse con regla y compás —además de las cónicas, excluyendo a la circunferencia, claro—. Pero este método, que terminará constituyendo una disciplina propia, la Geometría Algebraica, tardará aun mucho —siglo XX— en salir de unas pocas nociones iniciales, prácticamente inalteradas desde Descartes, Fermat y Newton. La razón será la imposibilidad de resolver por radicales la ecuación de quinto grado, hecho no descubierto hasta el siglo XIX, y el desarrollo de la Teoría de Anillos y del Álgebra Conmutativa.