MARIUS DUREA O INTRODUCERE ȊN TEORIA OPTIMIZĂRII NELINIARE

MARIUS DUREA O INTRODUCERE ȊN TEORIA OPTIMIZĂRII NELINIARE IAŞI 2012

Referent ştiinţific: Prof. univ. dr. Constantin Zǎlinescu Universitatea Al. I. Cuza Iaşi Editura TEHNOPRESS Str. Pinului nr. 1A 700109 Iaşi Tel./fax: 0232 260092 E-mail: tehnopress@yahoo.com Editură acreditată CNCSIS, cod CNCSIS 89 Descrierea CIP a Bibliotecii Naţionale a României DUREA, MARIUS O introducere în teoria optimizării neliniare / Marius Durea. Iaşi: Tehnopress, 2012 Bibliogr. ISBN 978-973-702-933-1 519.863

Prefaţ¼a Scopul lucr¼arii este acela de a prezenta, pe spaţii normate nit dimensionale (spaţiile R p ; p 2 N ), o serie de rezultate, clasice sau mai noi, de analiz¼a neliniar¼a, cu accent pe studiul problemelor de optimizare cu date neliniare netede (de clas¼a C 2 ). Evident, multe din rezultatele cuprinse în aceast¼a prezentare au loc pe spaţii mult mai generale (spaţii metrice, spaţii normate in nit dimensionale), dar ideile fundamentale ce stau la baza teoriei sunt similare, indiferent de context. Cadrul spaţiilor nit dimensionale ofer¼a posibilitatea scurt¼arii unor demonstraţii şi, mai ales, un suport intuitiv necesar preciz¼arii cu mai mare claritate a acestor idei de baz¼a. Cartea de faţ¼a se adreseaz¼a, în primul rând, studenţilor din ultimul an al ciclului de licenţ¼a de la Facultatea de Matematic¼a. L¼argind cadrul, materialul poate parcurs de c¼atre orice cititor care cunoaşte instrumentele calculului diferenţial clasic pentru funcţiile de mai multe variabile, precum şi noţiunile şi rezultatele de baz¼a ale algebrei liniare. Pornind de la aceste date iniţiale, multe dintre ele reamintite în primul capitol, lucrarea poate apoi parcurs¼a f¼ar¼a a face apel la alte surse. Trebuie spus c¼a lucrarea de faţ¼a foloseşte mai multe monogra i menţionate în bibliogra e. Pentru expunerile de ordin teoretic am folosit cu prec¼adere referinţele [17], [12], [4], [9], [13], [11], [15], [14], în timp ce pentru exemplele concrete şi pentru prezentarea algoritmilor am folosit sursele [8], [7], [12], [10], [6], [2]. Unele probleme au fost preluate din [5] şi [14]. În sfârşit, pentru dezvoltarea simul¼arilor în Scilab am utilizat ca surse de studiu [1], [3], [16]. Prezentarea tematicii ec¼arui capitol este f¼acut¼a la începutul capitolului respectiv. Spunem aici doar câteva cuvinte. În primul capitol, introducem notaţiile, noţiunile ce vor utilizate şi prezent¼am succint rezultate bine cunoscute de analiz¼a matematic¼a, calcul diferenţial şi algebr¼a liniar¼a. În al doilea capitol introducem şi studiem mulţimile şi funcţiile convexe, conurile convexe, conul tangent într-un punct la o mulţime, funcţiile semicontinue. Demonstr¼am de asemenea rezultate fundamentale de analiz¼a neliniar¼a care vor esenţiale pentru dezvolt¼arile din capitolele urm¼atoare. Enumer¼am aici Lema lui Farkas şi Principiul lui Banach de punct x. i

Capitolul al treilea este capitolul cel mai important pentru c¼a aici, folosindu-ne de instrumentele dezvoltate anterior, prezent¼am rezultate de teoria optimiz¼arii. Mai întâi, ne ocup¼am de condiţii de existenţ¼a a punctelor de minim, iar apoi de condiţii necesare şi de condiţii su ciente de optimalitate (de ordinul I şi de ordinul al II-lea) pentru probleme cu funcţii obiectiv diferenţiabile şi cu restricţii geometrice şi funcţionale. Deducem astfel faimoasele condiţii Karush-Kuhn-Tucker şi investig¼am mai multe condiţii de cali care care conduc la acestea. Capitolul se încheie cu ilustrarea teoriei prin intermediul unor exemple concrete. Al patrulea capitol se ocup¼a de studiul unor algoritmi pentru aproximarea soluţiilor ecuaţiilor neliniare şi pentru aproximarea soluţiilor problemelor de optimizare discutate anterior. Mai exact, avem în vedere iteraţiile Picard, iteraţiile Newton, metoda de accelerare Aitken, metoda c¼aut¼arii direcţiei de descreştere, metoda punctului interior. Aspectele teoretice sunt apoi discutate prin intermediul unor simul¼ari scrise în cod Scilab. Ultimul capitol prezint¼a sub form¼a de exerciţii şi probleme, însoţite de soluţii complete sau indicaţii detaliate, diferite aplicaţii la materia capitolelor anterioare. Grupate pe subteme, aceste aplicaţii sunt în unele cazuri rezultate teoretice interesante prin ele însele, dar care nu şi-au g¼asit un loc natural în cadrul prezent¼arilor cuprinse în p¼arţile precedente ale c¼arţii. La nal, am inclus o scurt¼a trecere în revist¼a, f¼ar¼a demonstraţii, dar însoţit¼a de asemenea de exerciţii, a metodelor speci ce program¼arii liniare. Scopul acestei ad¼augiri este acela de a oferi o viziune intuitiv¼a mai accentuat¼a asupra problemelor de optimizare în general. Doresc s¼a exprim cele mai calde mulţumiri domnului prof. dr. Constantin Z¼alinescu pentru sugestiile oferite şi pentru c¼a a acceptat s¼a e referentul ştiinţi c al acestei lucr¼ari. Mulţumiri se cuvin de asemenea colegului lect. dr. Radu Strugariu pentru lectura atent¼a a variantelor preliminare şi pentru corecturile sugerate. Marius Durea ii

Cuprins Prefaţ¼a i 1 Introducere 1 1.1 Spaţiul R p............................. 1 1.2 Limite de funcţii şi continuitate................. 6 1.3 Diferenţiabilitate......................... 11 1.4 Integrala Riemann........................ 16 2 Rezultate de analiz¼a neliniar¼a 20 2.1 Mulţimi convexe şi conuri.................... 20 2.2 Funcţii convexe.......................... 35 2.2.1 Rezultate generale.................... 35 2.2.2 Funcţii convexe de o variabil¼a real¼a........... 44 2.2.3 Inegalit¼aţi......................... 48 2.3 Principiul lui Banach de punct x................ 60 2.3.1 Contracţii şi puncte xe................. 60 2.3.2 Cazul funcţiilor de o variabil¼a real¼a........... 70 2.4 Funcţii semicontinue....................... 80 3 Studiul unor probleme de optimizare 84 3.1 Condiţii generale de optimalitate................ 84 3.2 Restricţii funcţionale....................... 99 3.2.1 Condiţiile Fritz John................... 99 3.2.2 Condiţiile Karush-Kuhn-Tucker............. 103 3.2.3 Condiţii de cali care................... 110 3.3 Condiţii de ordinul al doilea................... 118 3.4 Complet¼ari şi exemple...................... 122 3.4.1 Probleme f¼ar¼a restricţii.................. 122 3.4.2 Probleme cu restricţii................... 130 iii

4 Algoritmi 141 4.1 Algoritmi pentru ecuaţii neliniare................ 143 4.2 Algoritmi în probleme de optimizare.............. 151 4.2.1 Cazul problemelor f¼ar¼a restricţii............. 151 4.2.2 Cazul problemelor cu restricţii.............. 160 4.3 Exempli c¼ari: coduri Scilab................... 166 5 Exerciţii şi probleme 187 5.1 Optimizare pentru funcţii reale de o variabil¼a real¼a...... 187 5.2 Convexitate............................ 191 5.3 Puncte xe............................ 201 5.4 Probleme de optimizare neliniar¼a................ 210 5.5 Optimizare şi calcul numeric................... 226 Elemente de programare liniar¼a 232 Aspecte teoretice............................ 232 Exerciţii................................. 236 Bibliogra e 248 iv

Bibliogra e [1] ***, http://www.scilab.org/ [2] M. S. Bazaraa, H. D. Sherali, C. M. Shetty, Nonlinear programming: theory and algorithms, John Wiley & Sons, New Jersey, 2006. [3] S. L. Campbell, J. P. Chancelier, R. Nikoukhah, Modeling and Simulation in Scilab/Scicos with ScicosLab 4.4, Springer, New York, 2010. [4] O. Cârj¼a, Unele metode de analiz¼a funcţional¼a neliniar¼a, Editura Matrix Rom, Bucureşti, 2003. [5] F. H. Clarke, Optimization and nonsmooth analysis, John Wiley & Sons, New York, 1983. [6] A. Forsgren, P. E. Gill, M. H. Wright, Interior methods in nonlinear optimization, SIAM Review 44 (2002), 525-597. [7] M. R. Hestenes, Optimization Theory. The nite dimensional case, John Wiley & Sons, New York, 1975. [8] J.-B. Hiriart-Urruty, Optimization et analyse convexe, EDP Sciences, Paris, 2009. [9] J.-B. Hiriart-Urruty, Les mathématiques du mieux faire, Volume 1, Premiers pas en optimization, Ellipses, Paris, 2008. [10] E. Isaacson, H. B. Keller, Analysis of numerical methods, Dover Publications, New York, 1966. [11] C. Niculescu, L.-E. Persson, Convex functions and their applications, Springer, New York, 2006. [12] J. Nocedal, S. J. Wright, Numerical optimization, Springer, New York, 2006. [13] B. G. Pachpatte, Mathematical inequalities, Elsevier, Amsterdam, 2005. 248

[14] P. Pedregal, Introduction to optimization, Springer-Verlag, New York, 2004. [15] T. L. R¼adulescu, V. R¼adulescu, T. Andreescu, Problems in Real Analysis: advanced calculus on the real axis, Springer, Dordrecht, 2009. [16] A. Quarteroni, F. Saleri, Scienti c computing with MATLAB and Octave, Springer, Milano, 2006. [17] C. Z¼alinescu, Programare matematic¼a în spaţii normate in nit dimensionale, Editura Academiei, Bucureşti, 1998. 249

Bun de tipar: 2012. Apărut: 2012 Editura Tehnopress, str. Pinului nr. 1A, 700109 Iaşi Tel./fax: 02032 260092 Email: tehnopress@yahoo.com www.tehnopress.ro