Как перемещать курсор или имитировать клики для других приложений?
Я создаю приложение C # Windows с помощью Leap Motion Controller . Я разрабатываю Windows 8 и Visual Studio 2010. Я использую SetCursorPos и mouse_event из user32.dll для перемещения курсора и моделирования кликов.
Я хочу, чтобы курсор перемещался в любом приложении. Когда я запускаю / отлаживаю его из Visual Studio, он работает только в самом приложении или в Visual Studio. Когда в других приложениях мышь не перемещается, а клики не работают, но если я попытаюсь переместить курсор с помощью реальной мыши, она вернется к месту, где она была. При автономной работе он не перемещается в Visual Studio, и мышь может быть перемещена с помощью реальной мыши в других приложениях.
У меня есть этот код для использования SetCursorPos и mouse_event :
- Позиционный элемент фиксирован вертикально, абсолютный по горизонтали
- Слайд справа налево?
- Создавайте парные гистограммы в ggplot (используя position_dodge только для некоторых переменных)
- Как получить положение мыши в jQuery без событий мыши?
- Фиксированное положение, но относительно контейнера
[DllImport("user32.dll")] public static extern long SetCursorPos(int x, int y); [DllImport("User32.Dll")] public static extern void mouse_event(uint dwFlags, uint dx, uint dy, uint cButtons, uint dwExtraInfo); public static void MouseClick(uint x, uint y) { mouse_event(MOUSEEVENTF_LEFTDOWN | MOUSEEVENTF_LEFTUP, x, y, 0, 0); }
В моем classе формы у меня есть местоположение мыши, хранящееся в двух полях. В Timer я устанавливаю позицию курсора и делаю необходимые клики следующим образом:
if (!frame.Hands.IsEmpty) { Hand hand = frame.Hands.Leftmost; if (!hand.Fingers.IsEmpty) { // Get coordinates... SetCursorPos(mousex, mousey); } } foreach (Gesture gesture : gestures) { if (gesture.Type == Gesture.GestureType.TYPESCREENTAP) { MouseClick(mousex, mousey); } }
Операторы if предназначены для устройства Leap; Я хочу переместить мышь и делать другие вещи только тогда, когда есть arm, чтобы получить координаты.
Можно ли даже перемещать курсор или имитировать щелчки мыши для других приложений? И если да, то как?
Вы вдохновили меня на реорганизацию моего кода автоматизации:
NativeMethods.cs – получил большую часть этого из онлайн:
using System; using System.Runtime.InteropServices; public class NativeMethods { [DllImport( "user32.dll", SetLastError = true )] internal static extern Int32 SendInput( Int32 cInputs, ref INPUT pInputs, Int32 cbSize ); [StructLayout( LayoutKind.Explicit, Pack = 1, Size = 28 )] internal struct INPUT { [FieldOffset( 0 )] public InputType dwType; [FieldOffset( 4 )] public MOUSEINPUT mi; [FieldOffset( 4 )] public KEYBDINPUT ki; [FieldOffset( 4 )] public HARDWAREINPUT hi; } [StructLayout( LayoutKind.Sequential, Pack = 1 )] internal struct MOUSEINPUT { public Int32 dx; public Int32 dy; public Int32 mouseData; public MOUSEEVENTF dwFlags; public Int32 time; public IntPtr dwExtraInfo; } [StructLayout( LayoutKind.Sequential, Pack = 1 )] internal struct KEYBDINPUT { public Int16 wVk; public Int16 wScan; public KEYEVENTF dwFlags; public Int32 time; public IntPtr dwExtraInfo; } [StructLayout( LayoutKind.Sequential, Pack = 1 )] internal struct HARDWAREINPUT { public Int32 uMsg; public Int16 wParamL; public Int16 wParamH; } internal enum InputType : int { Mouse = 0, Keyboard = 1, Hardware = 2 } [Flags()] internal enum MOUSEEVENTF : int { MOVE = 0x1, LEFTDOWN = 0x2, LEFTUP = 0x4, RIGHTDOWN = 0x8, RIGHTUP = 0x10, MIDDLEDOWN = 0x20, MIDDLEUP = 0x40, XDOWN = 0x80, XUP = 0x100, VIRTUALDESK = 0x400, WHEEL = 0x800, ABSOLUTE = 0x8000 } [Flags()] public enum KEYEVENTF : int { EXTENDEDKEY = 1, KEYUP = 2, UNICODE = 4, SCANCODE = 8 } /// The MapVirtualKey function translates (maps) a virtual-key code into a scan /// code or character value, or translates a scan code into a virtual-key code /// /// [in] Specifies the virtual-key code or scan code for a key. /// How this value is interpreted depends on the value of the uMapType parameter /// [in] Specifies the translation to perform. The value of this /// parameter depends on the value of the uCode parameter. /// Either a scan code, a virtual-key code, or a character value, depending on /// the value of uCode and uMapType. If there is no translation, the return value is zero /// The set of valid MapTypes used in MapVirtualKey /// /// uCode is a virtual-key code and is translated into a scan code. /// If it is a virtual-key code that does not distinguish between left- and /// right-hand keys, the left-hand scan code is returned. /// If there is no translation, the function returns 0. /// /// uCode is a scan code and is translated into a virtual-key code that /// does not distinguish between left- and right-hand keys. If there is no /// translation, the function returns 0. /// /// uCode is a virtual-key code and is translated into an unshifted /// character value in the low-order word of the return value. Dead keys (diacritics) /// are indicated by setting the top bit of the return value. If there is no /// translation, the function returns 0. /// /// Windows NT/2000/XP: uCode is a scan code and is translated into a /// virtual-key code that distinguishes between left- and right-hand keys. If /// there is no translation, the function returns 0. /// /// Not currently documented /// ///
}
MouseInput.cs
using System; using System.Collections.Generic; using System.Diagnostics; using System.Drawing; using System.Linq; using System.Runtime.InteropServices; using System.Text; using System.Windows.Forms; namespace SendInput { public class MouseInput { public static void LeftClick() { DoMouse( NativeMethods.MOUSEEVENTF.LEFTDOWN, new System.Drawing.Point( 0, 0 ) ); DoMouse( NativeMethods.MOUSEEVENTF.LEFTUP, new System.Drawing.Point( 0, 0 ) ); } public static void LeftClick( int x, int y ) { DoMouse( NativeMethods.MOUSEEVENTF.MOVE | NativeMethods.MOUSEEVENTF.ABSOLUTE, new System.Drawing.Point( x, y ) ); DoMouse( NativeMethods.MOUSEEVENTF.LEFTDOWN, new System.Drawing.Point( x, y ) ); DoMouse( NativeMethods.MOUSEEVENTF.LEFTUP, new System.Drawing.Point( x, y ) ); } public static void ClickBoundingRectangleByPercentage( int xPercentage, int yPercentage, System.Drawing.Rectangle bounds ) { double additional = 0.0; if ( xPercentage == 99 ) additional = 0.5; int xPixel = Convert.ToInt32( bounds.Left + bounds.Width * ( xPercentage + additional ) / 100 ); int yPixel = Convert.ToInt32( bounds.Top + bounds.Height * ( yPercentage ) / 100 ); LeftClick( xPixel, yPixel ); } public static void RightClick() { DoMouse( NativeMethods.MOUSEEVENTF.RIGHTDOWN, new System.Drawing.Point( 0, 0 ) ); DoMouse( NativeMethods.MOUSEEVENTF.RIGHTUP, new System.Drawing.Point( 0, 0 ) ); } public static void RightClick( int x, int y ) { DoMouse( NativeMethods.MOUSEEVENTF.MOVE | NativeMethods.MOUSEEVENTF.ABSOLUTE, new System.Drawing.Point( x, y ) ); DoMouse( NativeMethods.MOUSEEVENTF.RIGHTDOWN, new System.Drawing.Point( x, y ) ); DoMouse( NativeMethods.MOUSEEVENTF.RIGHTUP, new System.Drawing.Point( x, y ) ); } public static void MoveMouse( Point p ) { MoveMouse( pX, pY ); } public static void MoveMouse( System.Windows.Point p ) { MoveMouse( Convert.ToInt32( pX ), Convert.ToInt32( pY ) ); } public static void MoveMouse( int x, int y ) { DoMouse( NativeMethods.MOUSEEVENTF.MOVE | NativeMethods.MOUSEEVENTF.ABSOLUTE, new System.Drawing.Point( x, y ) ); } public static System.Drawing.Point GetMousePosition() { return Cursor.Position; } public static void ScrollWheel( int scrollSize ) { DoMouse( NativeMethods.MOUSEEVENTF.WHEEL, new System.Drawing.Point( 0, 0 ), scrollSize ); } private static void DoMouse( NativeMethods.MOUSEEVENTF flags, Point newPoint, int scrollSize = 0 ) { NativeMethods.INPUT input = new NativeMethods.INPUT(); NativeMethods.MOUSEINPUT mi = new NativeMethods.MOUSEINPUT(); input.dwType = NativeMethods.InputType.Mouse; input.mi = mi; input.mi.dwExtraInfo = IntPtr.Zero; // mouse co-ords: top left is (0,0), bottom right is (65535, 65535) // convert screen co-ord to mouse co-ords... input.mi.dx = newPoint.X * 65535 / Screen.PrimaryScreen.Bounds.Width; input.mi.dy = newPoint.Y * 65535 / Screen.PrimaryScreen.Bounds.Height; input.mi.time = 0; input.mi.mouseData = scrollSize * 120; // can be used for WHEEL event see msdn input.mi.dwFlags = flags; int cbSize = Marshal.SizeOf( typeof ( NativeMethods.INPUT ) ); int result = NativeMethods.SendInput( 1, ref input, cbSize ); if ( result == 0 ) Debug.WriteLine( Marshal.GetLastWin32Error() ); } } }
Да, вы хотите использовать функцию «SendInput».
см.: SendInput не выполняет нажатие кнопки мыши, если я не перемещаю курсор
Также,
http://www.pinvoke.net/default.aspx/user32.sendinput
а также
http://www.pinvoke.net/default.aspx/Structures/INPUT.html
Я исправил первую гипер ссылку – см. Комментарий о:
При использовании функции SendInput необходимо учитывать несколько вещей.
Если вы не укажете флаг MOUSEEVENTF_ABSOLUTE, то dx и dy (структура MouseInputData) будут относительными координатами к текущей позиции мыши. Если вы укажете MOUSEEVENTF_ABSOLUTE, то dx и dy будут абсолютными координатами между 0 и 65535. Поэтому, если ваши координаты x и y являются координатами экрана, вы должны использовать следующую функцию для вычисления dx и dy:
а также
http://msdn.microsoft.com/en-us/library/ms646310%28VS.85%29.aspx
Мне удалось решить проблему самостоятельно.
Были две проблемы. Первым (и основным) было то, что устройство Leap не отправляло кадры в мое приложение, когда оно было в фоновом режиме. Это было исправлено добавлением этого кода к onConnect() слушателя, как предлагается здесь :
controller.SetPolicyFlags(Controller.PolicyFlag.POLICYBACKGROUNDFRAMES);
Вторая проблема заключалась в том, что при автономной работе приложение не имело доступа для отправки ввода в другие приложения. Я следил за инструкциями, найденными здесь (прокрутка вниз, информация о uiAccess ), и здесь, и подписал мое приложение и добавил это в манифест: