Глава 14 Теорема на Бенке-Зомер. Локална псевдоизпъкналост. Ще започнем с изучаване на една Теорема на Бенке-Зомер, известна под името Принцип за непрекъснатост. За целта да напомним, че произволна n-торка холоморфни функции f = (f 1,..., f n ) : D C n образува холоморфно изображение от област D C m с m < n в C n. Матрицата f 1 f (f 1,..., f n ) (z 1,..., z m ) (z) = z 1 (z)... 1 z m (z)......... f n z 1 (z)... f n z m (z) от частните производни се нарича матрица на Якоби. Холоморфното изображение f е неизродено в точка z D, ако рангът на матрицата на Якоби е максимален и равен на m. Ще казваме, че холоморфното изображение f : D C n е неизродено, ако f е неизродено във всяка точка z D. Образът f(d) C n на област D C m под действие на неизродено холоморфно изображение f : D C n се нарича m-мерна холоморфна повърхнина. Например, 1-мерните холоморфни повърхнини са холоморфните криви в C n. В частност, ако D = D(a, r) C е диск в C, а f : D(a, r) C n е неизродено холоморфно изображение с непрекъснато продължение f : D(a, r) C n, то f(d(a, r)) C n се нарича холоморфен диск. Ограничените холоморфни повърхнини f(d) C n изпълняват следния Принцип за максимума на модула. Лема 14.1. Нека функцията g : U C е холоморфна в околност U на ограничена холоморфна повърхнина f(d) C n. Тогава sup g(w) sup g(w), w f(d) w f(d) където границата f(d) = f(d) \ f(d). Доказателство: Достатъчно е да установим, че и да използваме, че sup g(w) sup g(w) w f(d) w f(d) sup g(w) sup g(w). w f(d) w f(d) Съгласно компактността на f(d), съществува точка w (0) f(d), в която се достига g(w) = g(w (0) ). При допускане на противното, от sup w f(d) g(w (0) ) = sup g(w) > sup g(w) (14.1) w f(d) w f(d) следва, че w (0) f(d). С други думи, съществува z (0) D с f(z (0) ) = w (0). Твърдим, че областта D е ограничена, щом холоморфната повърхнина f(d) е 113
114 14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. ограничена. В противен случай, съществува неограничена редица {p (k) } k=1 D, lim k p(k) =. Редицата от образи {f(p (k) )} k=1 f(d) има гранична точка ζ f(d). Всяка околност U ζ на ζ пресича {f(p (k) )} k=1 във фундаментална редица. Поради своята неизроденост, холоморфното изображение f е локално обратимо и {p (k) } k=1 съдържа поне една фундаментална подредица. Следователно съществува крайна гранична точка на {p (k) } k=1 в D. Това противоречи на неограничеността на {p (k) } k=1 и доказва ограничеността на областта D. Сега холомарфната функция gf : D C в ограничената област D изпълнява неравенствата gf(z (0) ) gf(z) за z D. Съгласно Следствие 2.9 от Принципа за максимума, gf const е постоянна и не може да изпълнява (14.1), Q.E.D. Да напомним, че за произволно подмножество M C n и произволно ε > 0, ε-раздуването M (ε) = z M P(z, ε) е обединението на поли-дисковете с център z M и радиус ε > 0. Редицата {M k } k=1 от подмножества M k C n клони към множеството M, ако за всяко ε > 0 съществува k 0 N, така че M k M (ε) и M M (ε) k за всички k k 0. Теорема 25. (Бенке-Зомер) Нека D е област, {S k } k=1 е редица от ограничени холоморфни повърхнини, компактно вложени в D, S k S k D и клонящи към подмножество lim S k = S C n. Ако границите { S k } k=1 D клонят k към компактно вложено подмножество Γ Γ D, то произволна холоморфна функция f : D C се продължава холоморфно в околност на S. Доказателство: Съществува ограничена област D 0 C n, която е компактно вложена в D, D o D o D и съдържа Γ, Γ D o. Нека r = ρ(d o, D) = inf z ζ z D o,ζ D е разстоянието от D o до границата D на D. Да изберем достатъчно малко ε > 0, така че Γ (ε) D o. Тогава от lim S k = Γ следва съществуването на k k o N с S k D o за k k o. За произволна холоморфна функция f : D C и произволна точка z S k е изпълнено f(z) f Sk по Лема 14.1 за максимума на модула. Вземайки предвид S k D o за k k o, получаваме f(z) f Do за z S k с k k o. По определение, това означава, че S k с k k o се съдържа в холоморфната обвивка H(D o ) на ограничената област D o. По Лема 13.12 за едновременно продължение, всяка холоморфна функция f : D C има холоморфно продължение в r-раздуването H(D o ) r = z H(Do)P(z, r) на холоморфната обвивка H(D o ) на D o. В частност, f има холоморфно продължение в r-раздуването S r k = z S k P(z, r) за всяко k k o. Поради сходимостта на S k към S съществува естествено число k 1 k o, така че S S r 2 k за всички k k 1. Оттук ) S r 2 (S r r 2 2k Sk r и всяка холоморфна функция f : D C има холоморфно продължение в околността S r 2 на S, Q.E.D. Локалната псевдоизпъкналост в C 2 -гладка гранична точка на област D C n е аналог на локалната изпъкналост в C 2 -гладка гранична точка a W на област W R n. По-точно, да допуснем, че съществува околност U a на a W върху R n и функция ϕ : U a R от клас C 2 с неанулиращ се градиент ϕ(x) =
14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. 115 ( ) x 1 (x),..., x n (x) за x U a, така че W U a = {x U a ϕ(x) < 0}. Тогава можем да определим допирателната равнина T a ( W ) = {x R n (x a, ϕ(a)) = 0} към W в a, където (x a, ϕ(a)) = n (x i a i ) x i (a) е евклидовото скаларно произведение в R n. Казваме, че областта W R n е изпъкнала в своята C 2 - гладка гранична точка a W, ако съществува околност V a на a върху R n, така че W V a се съдържа в едното от полупространствата спрямо допирателната равнина T a ( W ) към W в a. Твърдим, че ако W R n е изпъкнала област, то W е изпъкнала във всяка своя C 2 -гладка гранична точка. За целта да разгледаме нормалата N a към W през a, т.е. правата през a, успоредна на градиента ϕ(a). В доказателството на Теорема 20 изибраме точки y (k) N a, клонящи към lim k y(k) = a. Тогава разстоянията от y (k) до W се реализират от a W и можем да изберем хиперравнините H k с един и същи нормален вектор ϕ(a) R n \ {0 n }. Тяхната граница H е равнината през a с нормален вектор ϕ(a), т.е. H съвпада с T a ( W ). Да отбележим, че W е под T a ( W ) точно тогава, когато всички точки на T a ( W ) са над W (щом a W T a ( W ) е извън W ). За да анализираме последното условие, да преместим началото 0 n R n в точката a. С помощта на линейната функция L o (x) = n x i (0 n )x i и симетричната билинейна форма H o (x) = x i x j (0 n )x i x j записваме формулата на Тейлър за ϕ(x) във вида ϕ(x) = L o (x) + 1 2 H o(x) + o( x 2 ). Тогава за x T 0 n( W ) условието ϕ(x) 0 се свежда до положителната дефинитност H o (x) T0 n ( D) 0 на хесиана H o (x) на ϕ(x) върху допирателната равнина към W в 0 n. Локалната псевдоизпъкналост на област D C n е аналог на този критерий. По-точно, нека U е околност на гранична точка a D на област D C n, а( ϕ : U R) е C 2 -функция с неанулиращ се холоморфен градиент ϕ(z) = z 1,..., z n 0 във всяка точка z U, която задава D U = {z U ϕ(z) < 0}. Ще казваме, че ϕ определя локално D в U. Тейлъровото развитие на ϕ около a = 0 n има вида където ϕ(z) = 2ReL o (z) + ReK o (z) + 1 2 H o(z) + o( z 2 ), K o (z) = L o (z) = (0 n )z j, (0 n )z i z j,
116 14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. H o (z) = (0 n )z i z j. За целта е достатъчно да забележим, че съгласно реалността на стойностите на ϕ, частните производни относно z i са комплексно спрегнати на частните производни относно z i и тяхната сума е равна на удвоената реална част. В частност, така че матрицата е ермитова. = 2 ϕ за 1 i, j n, ( ) n i, C n n Определение 14.2. Нека U C n ( е околност, а ϕ :) U R е C 2 -функция с неанулиращ се градиент (z) = z 1 (z),..., z n (z) 0 във всяка точка z U. Тогава ермитовата форма H z (ϕ, ) : C n C, H z (ϕ, w) = (z)w i w j се нарича форма на Леви на ϕ в z U. Да напомним комплексното допирателно пространство Ta C ( D) = {z C n (a)(z i a i ) = 0} към D в a D. Определение 14.3. Областта D е локално псевдоизпъкнала в граничната си точка a D, ако в някаква околност U на a тази област има локална определяща функция ϕ от клас C 2, чиято форма на Леви H a (ϕ, w) 0 е неотрицателно дефинитна във всеки комплексен допирателен вектор w Ta C ( D). Още повече, ако H a (ϕ, w) > 0 е строго положително дефинитна за w Ta C ( D), w 0 n, то D се нарича строго локално псевдоизпъкнала в a D. Например, кълбото B(0 n, 1) = {z C n z 2 < 1} е строго псевдоизпъкнало във всяка своя гранична точка a B(0 n, 1). По-точно, определящата функция ϕ(z) = z i z i 1 има форма на Леви H a (ϕ, w) = w i w i = w 2 > 0 за w 0 n. Следващата Лема изучава някои основни свойства на формата на Леви. Лема 14.4. Нека U C n е околност, а ϕ : U R е C 2 -функция с холоморфен градиент (z) 0 за z U. (i) Ако h : U z R е C 2 -функция в околност U z на z U, то формата на Леви H z (hϕ, w) = hh z (ϕ, w) + ϕh z (h, w) + 2Re[(w) h(w)] за w C n,
14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. 117 където (w) = n w i. (ii) Ако ψ : U ϕ(z) R е C 2 -функция в околност U ϕ(z) R на ϕ(z), то формата на Леви H z (ψ ϕ, w) = ψ (ϕ)h z (ϕ, w) + ψ (ϕ) (w) 2 за w C n. (iii) Ако f = (f 1,..., f n ) : V U C n е холоморфно изображение от околност V C m, то във всяка точка ζ V формата на Леви H ζ (ϕ f, w) = H f(ζ) (ϕ, f w), където f w = ((f 1 ) w,..., (f n ) w) и (f s ) w = m f s ζ i w i за ζ V, w C m. В частност, формата на Леви е инвариантна относно бихоломорфни изображения (взаимно-еднозначни изображения, които са холоморфни заедно със своите обратни). Доказателство: (i) Непосредствено пресмятаме, че 2 (hϕ) Следователно (hϕ) = h + ϕ h, = h 2 ϕ + ϕ 2 h + H z (hϕ, w) = hh z (ϕ, w)+ϕh z (h, w)+ hh z (ϕ, w)+ϕh z (h, w)+ ( n ) w i ( h + h w i h w j + ( h n w j + h w i ). h w i w j = ) hh z (ϕ, w) + ϕh z (h, w) + (w) h(w) + h(w)(w) = hh z (ϕ, w) + ϕh z (h, w) + 2Re[(w) h(w)]. w j = (ii) Ако ψ(t) е функция на t U ϕ(z), то по правилото за диференциране на суперпозиция, (ψ ϕ) = ψ (ϕ), 2 (ψ ϕ) = 2 ϕ ψ (ϕ) + ψ (ϕ). Следователно формата на Леви H z (ψ ϕ, w) = ψ (ϕ)h z (ϕ, w) + ψ (ϕ) w i w j = ψ (ϕ)h z (ϕ, w) + ψ (ϕ) [ n ] w i w j = ψ (ϕ)h z (ϕ, w) + ψ (ϕ) (w) 2. (iii) За холоморфните функции f 1,..., f n : V C непосредствено пресмятаме, че (ϕ f) f s = (f) и ζ i ζ i z s 2 (ϕ f) ζ i ζ j = s=1 s=1 t=1 f s ζ i f t ζ j z s z t (f)
118 14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. съгласно холоморфността на fs ζ i m m H ζ (ϕ f, w) = Q.E.D. s=1 t=1 s=1 t=1 : V C. В резултат, [ n s=1 t=1 z s z t (f) f s ζ i w i f t ζ j [ 2 m ] ϕ f s m (f) w i f t z s z t ζ i w j = z s z t (f(ζ))[(f s ) w][(f t ) w] = H f(ζ) (ϕ, f w), Лема 14.5. Нека a D е C 2 -гладка гранична точка на област D. Тогава локалната псевдоизпъкналост на D в a (строгата локална псевдоизпъкналост на D в a) не зависи от локална опрeделяща функция на D около a. Доказателство: Ако ϕ и ψ определят локално D в достатъчно малка околност U, то съществува C 1 -функция h : U R >0 с реални положителни стойности, така че ψ = ϕh. Наистина, съгласно Лема 10.3 съществуват функции h, h 1 C 1 (U), за които ψ = ϕh и ϕ = ψh 1. Следователно ϕ(hh 1 1) U = 0. В достатъчно малка околност U имаме ϕ U D = 0, ϕ D U < 0 и ϕ U\D > 0. Оттук следва, че разликата (hh 1 1) U\ D = 0 се анулира. Понеже U \ D е навсякъде гъсто отворено подмножество на U, стигаме до извода, че hh 1 = 1 в U. В частност, h и h 1 не се анулират в U, така че не си менят знака. От ϕ D U < 0 и ψ D U < 0 получаваме, че h D U > 0. Аналогично, ϕ U\D > 0 и ψ U\D > 0 изискват h U\D > 0. В резултат, h D > 0, откъдето h : U R >0. Нека ϕ : U R и ψ = hϕ : U R са локални определящи функции на D U = {z U ϕ(z) < 0} = {z U ψ(z) < 0} в околност U на a. Тогава ϕ(a) = 0 и (w) = 0 за всеки комплексен допирателен вектор w T C a ( D). Затова по Лема 14.4(i) получаваме, че H a (ψ, w) = h(a)h a (ϕ, w) за w T C a ( D). Както вече доказахме, h(a) > 0, така че формите на Леви H a (ψ, w) и H a (ϕ, w) имат едни и същи знаци за комплексен допирателен вектор w T C a ( D), Q.E.D. Да отбележим, че билинейната форма K o не е инвариантна относно бихоломорфни автоморфизми. Още повече, следващата лема установява, че формата K o може да се анулира тъждествено чрез подходящо бихоломорфно изображение. Лема 14.6. В околност U на своя гранична точка a D, областта D C n се определя с C 2 -функция ϕ : U R с неанулиращ се холоморфен градиент 0, т.е. D U = {z U ϕ(z) < 0}. Тогава съществува бихоломорфно изображение f : U V върху околност V на f(a) = 0 n, така че определящата функция ψ = ϕ f 1 на f(d U) в f(u) = V има Тейлърово разлагане ψ(w) = 2Re(w n ) + 1 2 H o(ψ, w) + o( w 2 ). ] =
14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. 119 Доказателство: Без ограничение на общността можем да считаме, че a = 0 n и определящата функция ϕ на D U в U има Тейлърово разлагане ϕ(z) = 2ReL o (z) + ReK o (z) + 1 2 H o(z) + o( z 2 ) (14.2) във всяка точка z U. Сменяме координатите z = (z 1,..., z n ) в околността U на 0 n с координати w = (w 1,..., w n ), където w 1,..., w n 1 са координати в комплексната допирателна равнина T C 0 n D = {ζ Cn L o (ζ) = 0}, w n = L o (z) + 1 2 K o(z). Доколкото K o (z) е полином от втора степен на z 1,..., z n, изображението f : U U, f(z 1,..., z n ) = f(w 1,..., w n 1, w n ) е бихоломорфно върху достатъчно малка околност U на 0 n C n. Още повече, w i = f i (z) са линейни функции за 1 i n 1, така че f i w i = f i (z) = (0 n )z j = (f i ) (z). От друга страна, f n w n = f n (z) = (0 n )z j + 1 2 K o(z) = (f n ) z + 1 2 K o(z) = (f n ) z + O( z 2 ), така че Да отбележим, че образът (f )z = ((f 1 ) z,..., (f n 1 ) z, (f n ) z) = w + O( z 2 ). f(d U) = {w = f(z) ψ(w) = ϕ f 1 (f(z)) = ϕ(z) < 0} се задава с определяща функция ψ = ϕ f 1 : U R. Съгласно Лема 14.4(iii), формата на Леви H 0 n(ϕ, z) = H 0 n(ψ f, z) = H 0 n(ψ, f z) = H 0 n(ψ, w + O( z 2 )) = H 0 n(ψ, w) + o( z 2 ), защото w = O( z ). Записваме (14.2) във вида ϕ(z) = 2Ref n (z) + 1 2 H 0 n(ϕ, z) + o( z 2 ). (14.3) След това заместваме z = f 1 (w) и получаваме ψ(w) = 2Rew n + 1 2 H 0 n(ψ, w) + o( w 2 ), Q.E.D. По този начин, формата на Леви е най-важната част на събираемите от ред 2 в Тейлъровото развитие на определящата функция. Теорема 26. Ако областта D е строго локално псевдоизпъкнала в граничната си точка a D, то съществува околност U на a и определяща функция ϕ : U R на D U = {z U ϕ(z) < 0}, чиято форма на Леви H a (ϕ, w) е положителна не само за ненулевите комплексни допирателни вектори w T C a ( D), но и за всички ненулеви вектори 0 n w C n. а
120 14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. Доказателство: Съгласно строгата локална псевдоизпъкналост на D в a съществува определяща функция ψ : U R в околност на a, така че D U = {z U ψ(z) < 0} H a (ψ, w) > 0 за w Ta C ( D), w 0 n. За произволна константа k > 0 съществува достатъчно малка околност U k U, така че ϕ = ψ + kψ 2 е C 2 -гладка определяша функция на D в U k. По-точно, ако U k = ψ ( 1 1 2k, + ), то {z U k ψ(z) < 0} = {z U k ϕ(z) < 0} и (z) = ψ(1 + 2kψ(z)) 0 за z U k. Съгласно Лема 14.4(ii), формата на Леви H a (ϕ, w) = (2kψ + 1)(a)H a (ψ, w) + 2k ψ(w) 2, H a (ϕ, w) = H a (ψ, w) + 2k ψ(w) 2. (14.4) Достатъчно е да докажем положителната дефинитност на формата H a (ϕ, w) върху единичната сфера S = {w C n w 2 = 1}, защото тогава H a (ϕ, λw) = λ 2 H a (ϕ, w) > 0 за λ C и w S. За положителната дефинитност на H a (ϕ, ) върху S да означим S o := {w S H a (ψ, w) 0}. Ако S o =, то полагаме k = 0. В противен случай, съгласно компактността на S o съществува константа M o 0, така че H a (ψ, w) M o за w S o. По определението за строга локална псевдоизпъкналост в a D, H a (ψ, w) > 0 за всеки ненулев комплексен допирателен вектор w Ta C ( D), т.е. за 0 n w C n с ψ(w) = 0. Следователно ψ(w) 0 за w S o. Оттук, съществува константа m > 0, така че ψ(w) m за w S o. Избирайки k > Mo 2m в (14.4) 2 получаваме H a (ϕ, w) M o + 2km 2 > 0 за w S o. Ако w S \ S o, то от H a (ψ, w) > 0, k 0 и ψ(w) 2 0 следва H a (ϕ, w) > 0, така че H a (ϕ, w) > 0 за 0 n w C n, Q.E.D. От това, че формата на Леви H z (ϕ, w) на C 2 -функцията ϕ зависи непрекъснато от z, получаваме следното Следствие 14.7. Ако областта D е строго локално псевдоизпъкнала в граничната си точка a D, то в достатъчно малка околност U на a съществува оперделяща функция ϕ на D U, така че H z (ϕ, w) > 0 за z U и w C n \ {0 n }. Следващата теорема свързва строгата псевдоизпъкналост с геометричната строга изпъкналост. Теорема 27. (Лема на Нарасимхан) Ако областта D е строго локално псевдоизпъкнала в граничната си точка a D, то съществува околност U на a и бихоломорфно изображение f : U V, така че f(d) V е строго изпъкнала във всяка точка от f( D U). Доказателство: Без ограничение на общността можем да считаме, че a = 0 n и определящата функция ϕ на D U е такава, че H 0 n(ϕ, w) > 0 за w C n \ {0 n }. Прилагайки бихоломорфното изображение f : U V от доказателството на Лема 14.6 получаваме определяща функция ψ = ϕ f 1 в околност на f(0 n ) = 0 n, с Тейлърово развитие ψ(w) = 2Re(w n ) + 1 2 H 0 n(ψ, w) + o( w 2 ). Събираемите от ред 2 в това развитие се свеждат до 1 2 H 0 n(ψ, w) = 1 2 H 1 0n(ϕ, f w) и
14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. 121 съгласно Лема 14.4(iii). По предположение, формата H 0 n(ϕ, f 1 w) > 0 е положително дефинитна за всички ненулеви вектори w C n \ {0 n }. Следователно H 0 n(ψ, w) > 0 за w C n \ {0 n }. Но реалният хесиан на ψ съвпада с формата на Леви H 0 n(ψ, w) и строгата положителна дефинитност на H ζ (ψ, w) за ζ f( D) V и w C\{0 n } означава строга изпъкналост на f(d) V R 2n във всяка гранична точка ζ f( D) V, Q.E.D. Лема 14.8. Нека W R n е ограничена област с глобална C 2 -гладка граница, която е строго локално изпъкнала във всяка своя гранична точка. Тогава съществува константа C > 0 и C 2 -гладка определяща функция ϕ на W, така че (ζ)w j w k C w 2 за ζ W, w R n. x j x k k=1 Доказателство: Нека ψ е C 2 -гладка определяща функция на W. За произволно λ > 0 определяме ψ λ (x) = eλψ(x) 1. λ На всяка гранична точка ζ W съпоставяме множеството n S ζ = w 2 ψ Rn (ζ)w j w k 0, w 2 = wj 2 = 1 x j x k k=1 на единичните вектори, в които хесианът на ψ в ζ има неположителна стойност. Съгласно изпъкналостта на W в ζ W, множеството S ζ не пресича допирателното порстранство k T ζ ( W ) = w ψ Rn (ζ)w j = 0 x j към W в ζ. По определение, S ζ е затворено и ограничено, а оттам и компактно подмножество на R n. Затова съществува µ ζ = min ψ w S ζ (ζ)w j x j > 0 и се достига в някакъв вектор w(ζ) S ζ. Ако K ζ = min 2 ψ (ζ)w j w k, w S ζ x j x k k=1 то избираме λ = K ζ + 1 и ϕ = ψ µ 2 λ. Съгласно e ψ(ζ) = 1, за w R n с w = 1 ζ пресмятаме, че H ζ (ϕ, w) = (ζ)w j w k = x j x k k=1 k=1 k=1 [ 2 ψ (ζ) + λ ψ (ζ) ψ (ζ) x j x k x j x k 2 ψ (ζ)w j w k + λ ψ x j x k (ζ)w j x j 2 ] w j w k = Твърдим, че съществува реална константа C ζ > 0, така че = H ζ (ψ, w) + λ ( ψ(ζ), w) 2. H ζ (ϕ, w) = H ζ (ψ, w) + ( ψ(ζ), w) 2 C ζ > 0 за w S. (14.5)
122 14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. Ако w S ζ, то H ζ (ψ, w) K ζ, ( ψ(ζ), w) 2 µ 2 ζ, откъдето H ζ(ϕ, w) µ 2 ζ > 0. Съгласно непрекъснатостта на H ζ (ϕ, w) относно w, съществува δ > 0, така че в околността S (δ) ζ = w Sζ B(w, δ) на S ζ е изпълнено H ζ (ϕ, w) C ζ > 0 за подходяща константа C ζ > 0. В допълнението S \ S(δ) ζ с lim ( ψ(ζ), m w(m) ) = 0. Върху компактната единична сфера S съществува гранична точка w (0) S на {w (m) } m=1. В нея ( ψ(ζ), w (0) ) = 0, така че w (0) S ζ. Но границата (S \ S (δ) ζ ) не пресича S ζ и възникващото противоречие доказва, че ν ζ > 0. По този начин, H ζ (ϕ, w) ν ζ C ζ = min(c ζ, ν ζ) > 0 за w S. ( Произволен вектор v R n \ {0 n } се представя като v = v v v ) с v v S и твърдението на лемата следва от (14.5). По построение, константите C ζ > 0 зависят непрекъснато от ζ W, защото µ ζ и K ζ са в непрекъсната зависимост от ζ. Можем да изебрем локално постоянни C ζ. Покриваме компактната граница W с околности, върху които са определени локално постоянни C ζ. Избираме крайно покритие и универсална долна граница C > 0 за цялата граница, Q.E.D. Следствие 14.9. Ако ограничена област W R n с C 2 -гладка граница е строго изпъкнала във всяка своя гранична точка, то W е изпъкнала област. Доказателство: Да отбележим, че S = {(x, y) W W (1 λ)x + λy W за 0 λ 1} е непразно отворено подмножество на W W. Съгласно Лема 14.8, съществува определяща функция ϕ на W с (ζ)w j w k C w 2 за ζ W, w R n. x j x k k=1 За да проверим, че S е относително затворено в W W, допускаме противното и избираме редица (a (m), b (m) ) S с граница lim m (a(m), b (m) ) = (a, b) (W W ) \ S. Тогава ϕ(a) < 0, ϕ(b) < 0, но ϕ((1 t 1 )a + t 1 b) 0 в някаква вътрешна точка t 1 (0, 1). Следователно ϕ((1 t)a+tb) достига локален максимум във вътрешна точка t 0 (0, 1) и ϕ (t o ) < 0. Това противоречи на строгата положителна дефинитност на хесиана на ϕ и доказва, че S е затворено. Доколкото W W е свързано, непразното отворено и затворено подмножество S на W W съвпада с W W и W е изпъкнало по определение, Q.E.D. За произволна точка ζ C n и линейно независими вектори u, v C n, множеството A ζ (u, v) = {ζ + t 1 u + t 2 v t 1, t 2, C} се нарича двумерна афинна равнина през ζ, успоредна на u и v. Ако ζ D е C 2 -гладка гранична точка на област D C n, то оротгоналното допълнение N ζ C( D) = Tζ C( D) относно стандартното ермитово скаларно произведение е комплексна права, нареечна комплексна норамла към D в a. Теорема 28. Нека D C n е област с C 2 -гладка гранична точка ζ D, T C ζ ( D) е комплексното допирателно пространство към D в ζ, а ν N C ζ ( D) е нормален вектор към D в ζ. Ако за w T C ζ ( D) сечението D ζ(w) = D A ζ (ν, w) е локално псевдоизпъкнало в ζ D ζ (w), то областта D е локално псевдоизпъкнала в ζ D. Доказателство: Нека ϕ е C 2 -гладка определяща функция на D в околност U на ζ D. За всяко двумерно афинно подпространство A = A ζ (ν, w) C n
14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. 123 разглеждаме холоморфното влагане g A : C 2 C n, g A (t 1, t 2 ) = ζ + t 1 ν + t 2 w на C 2 в C n с образ A. Тогава D ζ (w) U = {(t 1, t 2 ) g 1 A (U) ϕ(g A)(t 1, t 2 ) < 0}. Твърдим, че (ξ 1, ξ 2 ) = (0, 1) T0 C ( D 2 ζ (w)) е комплексен допирателен вектор. Наистина, 2 (g A ) (0 2 )ξ j = (g A (0 2 )) (g A) k (0 2 ) = (ζ)w k = 0, t j z k t 2 z k k=1 k=1 защото w Tζ C( D). По предположение, областта D ζ(w) е локално псевдоизпъкнала в 0 2, така че 2 2 (g A ) 0 (0 2 )ξ j ξ k = 2 ϕ(g A ) (0 2 ) = (ζ)w l w m. t j t k t 2 t 2 z l z m k=1 l=1 m=1 Горното е изпълнено за w Tζ C ( D), така че D е локално псевдоизпъкнала в ζ D, Q.E.D. За разлика от холоморфната изпъкналост, локалната псевдоизпъкналост и строгата локална псевдоизпъкналост са локални свойства и допускат ефективна проверка, но не характеризират глобално изучаваните области. Определение 14.10. Областта D е холоморфно неразширяема в граничната си точка a D, ако съществува околност U a на a и холоморфна функция f : D U a C, която не се продължава холоморфно в a. Ясно е, че ако D е област на холоморфност, то D е холоморфно неразширяема във всяка своя гранична точка. Локалният въпрос за холоморфна неразширяемост в гранична точка се решава в термините на локалната псевдоизпъкналост. Теорема 29. Нека област D е C 2 -гладка в околност на граничната си точка a D. (i) Ако D е строго локално псевдоизпъкнала в a, то D е холоморфно неразширяема в a. (ii) Ако D е холоморфно неразширяема в точка a, то D е локално псевдоизпъкнала в a. Доказателство: Без ограничение на общността можем да считаме, че a = 0 n. За локалната определяща ϕ на D в околност U на a предполагаме, че има линейна част на Тейлъровото развитие L o (z) = zn 2. За целта избираме линейна смяна на променливите z = Ay с неособена матрица A GL n (C), чиито стълбове (a 1i,..., a ni ) с номера 1 i n 1 са в комплексното допирателно пространство T0 C n( D) и изпълняват равенствата n a ji (0 n ) = 0. Тогава z j = n a ji y i и y i (0 n ) = n y i (0 n ) = Сега ϕ има Тейлърово развитие от вида n a ji (0 n ) = 0 за 1 i n 1. ϕ(z) = Re(z n + K o (z)) + 1 2 H o(z) + o( z 2 ) (14.6) в U, а комплексното допирателно пространство T C 0 n( D) = Cn 1 {0}. Да разгледами холоморфната функция f(z) = z n + K o (z) и аналитичната хиперповърхнина A = {z U f(z) = 0}, определена от нея.
124 14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. (i) Ако областта D е строго локално псевдоизпъкнала в точката 0 n D, тогава както в доказателството на Теорема 26 заменяме ϕ с ϕ + kϕ 2 за подходяща константа k 0, така че H o (z) > 0 за z 0 n. При тази смяна се запазва условието (0 n ) = 0 за 1 j n 1 и Тейлъровото развитие на ϕ(z) запазва вида на (14.6). Ако S = {z C n z = 1} е единичната сфера, а m = min H 0 n(z), z S то от H 0 n(z) > 0 за z S следва m 0. Твърдим, че m > 0. В противен случай, съществува редица {z (m) } m=1 S с lim H 0 m n(z(m) ) = 0. След евентуално преминаване към подредица можем да считаме, че {z (m) } m=1 е сходяща към lim m z(m) = z (0), съгласно компактността на S. Но тогава H 0 n(z (0) ) = 0 противоречи на избора на определяща функция и доказва, че m > 0. В резултат, всяко z C n \ {0 n } изпълнява равенството H 0 n(z) = z 2 H 0 n ( z z ) m z 2. Ограничението на (14.6) върху A изпълнява неравенствата ϕ A = 1 2 H 0 n(z) + o( z 2 ) m 2 z 2 + o( z 2 ) > 0 за достатъчно малки z > 0. По този начин, аналитичната хиперповърхнина A през 0 n се намира извън D в достатъчно малка околност на 0 n. Следователно 1 f : D U C е холоморфна функция, която не се продължава холоморфно в 0 n и D е холоморфно неразширяема в тази точка. (ii) Да допуснем, че D е холоморфно неразширяема в точката 0 n D, но не е псевдоизпъкнала в тази точка. Тогава съществува комплексен допирателен вектор w = (w, 0) T0 C n( D), w C n 1, в който H 0 n(w) < 0. Да разгледаме комплексната двумерна равнина P, минаваща през оста 0z n и вектора w. Да означим с C = A P холоморфната крива, в която аналитичната хиперповърхнина A пресича P. Непосредствено се вижда, че C = {ζw + ηe n C n g(ζ, η) = η + K o (ζw + ηe n ) = 0, ζ, η C}. Съгласно g η (0, 0) = 1 0, можем да приложим Теоремата за неявната функция и да представим η като холоморфна функция η = η(ζ) в достатъчно малка околност на ζ = 0 C. Понеже g(0, 0) = 0, Тейлъровият ред на η(ζ) около 0 C има вида η(ζ) = cζ + o( ζ ) за някакво комплексно число c. Кривата C се състои от точките ζw + ηe n = (ζw 1,..., ζw n 1, η) с g(ζ, η) = 0. За достатъчно малки по модул ζ C, в тях е изпълнена оценката η = K o (ζw + ηe n ) = K o (ζ(w + ce n ) + o( ζ )e n ) = αζ 2 + o( ζ 2 ) за подходящо α C. По този начин получаваме параметризация z (ζ) = ζw z n (ζ) = αζ 2 + o( ζ 2 ζ C ) на C в околност на 0 n C. Да означим накратко z(ζ) = (z (ζ), z n (ζ)). Комплексното допирателно пространство T0 C nc към C в 0n е подпространство на } T0 {w C na = = w i f(w)(0n ) = w n = 0 и съвпада с правата T C 0 nc = l C(w), породена от вектора w = (w, 0). Както в доказателството на (i) получаваме ϕ C = 1 2 H 0 n(w) ζ 2 + o( ζ 2 ).
14. ТЕОРЕМА НА БЕНКЕ-ЗОМЕР. ЛОКАЛНА ПСЕВДОИЗПЪКНАЛОСТ. 125 Поради H 0 n(w) < 0, съществува δ R >0, така че (D o ) = {(z (ζ), z n (ζ)) C n ζ D(0, δ) \ {0}} D. В резултат, за достатъчно малки t R >0 холоморфните дискове D t = {(z (ζ), z n (ζ) t) C n ζ D(0, δ)} D се съдържат компактно в D. Причина за това е, че 0 n D t за t > 0. Ограничените холоморфни дискове D t са затворени, а оттам и компактно вложени в D. Те клонят към D o = {(z (ζ), z n (ζ)) C n ζ D(0, δ)}. Границите D t = {(z (ζ), z n (ζ) t) C n ζ C, ζ = δ} клонят към компактно вложеното подмножество Γ = {(z (ζ), z n (ζ)) C n ζ C, ζ = δ} = Γ (D o ) D. Съгласно Теорема 25, за всяка околност U на a и всяка холоморфна функция f : D U C съществува холоморфно продължение в околност на D o. В частност, f е холоморфно продължима в a = 0 n, противно на предположението, Q.E.D. Чрез доказателството на Твърдение (ii) от Теорема 29 установихме и следното Следствие 14.11. Нека ϕ : U R е C 2 -функция с неанулиращ се градиент в околност U C n на точка a C n, която се анулира в a и определя реалната хиперповърхнина S = {z U ϕ(z) = 0}. Да предположим, че формата на Леви H a (ϕ, ) : T C a S C има поне една отрицателна собствена стойност или, еквивалентно, H a (ϕ, w) < 0 за някакъв комплексен допирателен вектор w T C a S. Тогава произволна холоморфна функция f : {z U ϕ(z) < 0} C има холоморфно продължение в a. Накрая да отбележим, че ако в околност U на гранична точка a D на област D C n съществува комплексна хиперповърхнина A = {z U f(z) = 0}, която се съдържа в допълнението C n \ D и се допира външно до D в a, то D е холоморфно неразширяема в a, доколкото холоморфната функция 1 f : D U C не се продължава в a D. Съгласно Теорема 29 (ii), оттук следва псевдоизпъкналостта на D в a D. Този критерий е аналогичен на критерия за геометрична изпъкналост на област W R n, при наличие на реална хиперповърхнина M през a W, която се допира до W в a и е разположена извън W в околност на a.