Su carrera como matemática ocupó 20 de los 81 años de su vida. En 1738 publicó un libro, escrito en latín, con una colección completa de 190 trabajos sobre ciencias naturales y filosofía titulada Proposiciones Filosóficas donde se recogen exposiciones sobre lógica, mecánica, hidráulica, elasticidad, química, botánica, zoología, mineralogía, astronomía, filosofía, la mecánica celeste y la teoría newtoniana sobre la gravitación universal.

Rampinelli animó a María a trabajar en un libro sobre cálculo diferencial. Escribió la obra en italiano como un libro de texto. En 1748 aparecieron sus Instituzioni Analitiche, fruto de diez años de trabajo, que había comenzado con 20 años y terminó antes de cumplir los 30. Fue su principal obra. Era una recopilación sistemática, en dos volúmenes y un total de unas mil páginas. El primer tomo trataba del conocimiento contemporáneo en álgebra y geometría analítica, y el segundo tomo de los nuevos conocimientos en cálculo diferencial e integral, la materia que estaba estudiándose en aquella época.

Fue el primer texto para estudiar el cálculo diferencial e integral, en el que se trataban además las series infinitas y las ecuaciones diferenciales. Incluía muchos ejemplos y problemas cuidadosamente seleccionados para ilustrar las ideas, métodos originales y generalizaciones. Lo había comenzado como distracción, continuado como libro de estudio para sus hermanos más jóvenes y había terminado convirtiéndose en una publicación importante.

Agnesi, con el dinero de su padre, dirigió la impresión del libro en su propia casa, para poder supervisar íntegramente la operación. Rampinelli le sugirió que Riccati le podría ofrecer consejo y contactó con él. El 20 de julio de 1745 María escribió a Riccati, que accedió a leer el borrador final del libro y hacer sugerencias. Riccati contestó rápidamente a esa primera carta de Agnesi y prometió pasar el texto a sus dos hijos, Vincenzo Riccati y Giordano Riccati, que también podían comentar el trabajo. Una vez que Agnesi recibió los comentarios de Riccati de la primera parte del texto, comenzó a organizar la impresión, mientras las otras partes eran enviadas. En 1747 le envió la última parte del libro [7]. El primer volumen del Instituzioni analitiche ad uso della gioventú italiana fue publicado en 1748, mientras Agnesi continuaba escribiendo a Riccati sobre el material del segundo volumen que fue publicado al año siguiente. La acogida fue espectacular:

El informe de una comisión de la Academia de Ciencias de París comentaba: “Esta obra se caracteriza por una cuidadosa organización, su claridad y su precisión. No existe ningún libro, en ninguna otra lengua, que permita al lector penetrar tan profundamente, o tan rápidamente en los conceptos fundamentales del Análisis. Consideramos este Tratado como la obra más completa y la mejor escrita en su género” [10]. Dicha comisión, que decidió la traducción y la publicación de esa obra al francés, estaba formada por D’Alembert, Condorcet y Vandermonde [3]. Fue traducida a varios idiomas, y utilizada como manual en las universidades de distintos países, siendo, incluso cincuenta años más tarde, el texto matemático más completo.

El secretario del comité de la Academia Francesa, aunque le negó el ingreso, escribió: “Permítame, señorita, sumar mi homenaje personal a los aplausos de la Academia entera... No conozco ningún trabajo de este tipo que sea más claro, más metódico o más completo que sus Instituciones analíticas. No hay ninguno en ningún idioma que pueda guiar de manera más segura, conducir con mayor rapidez y llevar más adelante a quienes desean avanzar en las ciencias matemáticas. Admiro en particular el arte con el que reúne usted bajo métodos uniformes las distintas conclusiones dispersas en las obras de los geómetras, y a las que han llegado por métodos diferentes” [1].
Dedicó el libro a la emperatriz María Teresa de Austria, bajo cuyo reinado estaba Milán, por lo que la emperatriz la recompensó. En la dedicatoria María decía: “Si en algún momento puede excusarse la temeridad de una mujer, que se atreve a aspirar a las sublimidades de una ciencia que no conoce límites, ni siquiera los de la infinitud misma, ciertamente debería ser en este período, en el que reina una mujer, ... En esta época ... toda mujer debería esforzarse, y empeñarse en promover la gloria de su sexo”.
El papa Benedito XIV escribió a Agnesi diciéndole que él había estudiado matemáticas en su juventud por lo que podía apreciar que esta obra otorgaría crédito al país y a la Academia de Bolonia. Concedió a Agnesi una medalla de oro y una corona de piedras preciosas.
María, como hemos visto, fue reconocida como matemática en su época, y sin embargo su reputación histórica fue distorsionada por el hecho de que, en sus Instituzioni Analitiche, trabajara con la “curva de Agnesi” o curva sinusoidal versa, “versiera” en italiano, que significa “virar”, “girar”, que se tradujo al inglés, por un error del traductor, John Colson, como la “bruja de Agnesi”. Colson, profesor de Cambridge, “encontró este trabajo tan excelente que, a una edad avanzada, decidió aprender italiano con el único fin de traducir ese libro y que la juventud inglesa pudiera beneficiarse de él, como lo hacen los jóvenes de Italia” [10], tan excelente juzgaba la obra.  

Colson tradujo las Instituciones al inglés hacia 1760, el año de su muerte. Confundió el término “versiera” por "avversiera" que significa bruja, hechicera, (“witch”). Posteriores traducciones y ediciones han mantenido el término. Quizás con mala intención o pretendiendo hacer un chiste sin gracia, ha quedado así inmortalizada en los libros de historia de la matemática.

Esta curva, fue discutida por Fermat en 1703 y se ha establecido recientemente que es una aproximación de la distribución del espectro de la energía de los rayos X y de los rayos ópticos, así como de la potencia disipada en los circuitos de alta frecuencia de resonancia [3].